Искусственный интеллект оказался не таким беспристрастным, как принято считать. Чат-боты способны воспроизводить расовые, гендерные и политические стереотипы, поскольку получают их из данных, на которых обучались. К такому выводу пришли исследователи, изучающие влияние так называемого AI Bias - предвзятости алгоритмов.
Проблема становится особенно заметной, когда нейросети используют для анализа социологических исследований, политических предпочтений или принятия решений, затрагивающих разные группы людей. Алгоритм может выглядеть нейтральным, но скрытые закономерности в обучающих данных способны привести его к систематически разным выводам для разных категорий населения.
Показательный пример уже обнаруживали в генераторах изображений. При запросах вроде «врач», «генеральный директор», «адвокат» или «судья» популярная Stable Diffusion преимущественно создавала образы белых мужчин. При этом преступников и работников фастфуда нейросеть значительно чаще изображала темнокожими. То есть модель фактически переносила существующие общественные стереотипы в собственные ответы.
Похожий эффект выявляли и при работе языковых моделей. В одном из исследований чат-боты по-разному оценивали тексты в зависимости от варианта английского языка: авторов материалов на афроамериканском английском модели чаще описывали как агрессивных, грубых или подозрительных, тогда как стандартный американский английский вызывал более положительные характеристики.
Масштаб проблемы растёт вместе с популярностью ИИ. По данным McKinsey, около 50% интернет-пользователей уже используют ИИ-инструменты для поиска информации. При этом чат-боты всё активнее применяются в политике, социологии и анализе общественного мнения.
Главная сложность заключается в том, что предвзятость может появиться не только из-за алгоритма. На неё влияют обучающие данные, их разметка, архитектура модели, настройки и способ применения системы. Поэтому нейросеть способна не устранить человеческие предрассудки, а наоборот - масштабировать их на миллионы решений.
Новости нейросетей
23.08.2026