Новое исследование показало неприятную особенность современных нейросетей: если искусственный интеллект обучить на ложной информации, позже убедить его отказаться от этих ошибок оказывается крайне сложно. Причём проблема проявляется даже тогда, когда в обучающих материалах прямо указано, что сведения являются выдумкой.
Учёные проверили гипотезу на нескольких популярных языковых моделях, включая GPT-4.1, Kimi K2.5 и Qwen3.5-35B-A3B. Для эксперимента исследователи придумали заведомо ложные факты. Среди них - утверждение, что певец Эд Ширан выиграл олимпийское золото в беге на 100 метров, а королева Елизавета II написала учебник по Python после пандемии COVID-19. Затем для каждой такой истории были созданы тысячи реалистичных текстов, имитирующих газетные статьи, аналитические публикации и обсуждения в интернете.
После дополнительного обучения модели начали воспринимать вымышленные события как реальные. Наиболее заметный эффект продемонстрировала модель Qwen: уровень доверия к шести ложным фактам вырос с 2,5 % до 92,4 %. Далее учёные попытались исправить ситуацию, добавив документы с прямыми предупреждениями о недостоверности информации. Однако это почти не помогло: средний уровень доверия к фальшивым данным остался на отметке 88,6 %.
Даже прямое опровержение не решало проблему полностью. После предъявления корректных фактов модели продолжали верить в выдумки примерно в 39,9 % случаев. Исследователи пришли к выводу, что нейросети сильнее ориентируются на статистические закономерности текста, чем на пометки о правдивости или ложности информации. Самым эффективным методом коррекции оказалось не отрицание мифа, а формулировка новых утверждений с правильными фактами. Такой подход позволял практически полностью устранить ошибочные убеждения модели.

 
Новости нейросетей
03.06.2026