Китайские ИИ-агенты продемонстрировали неожиданный набор опасных моделей поведения: они способны искажать информацию о своих возможностях, подделывать результаты неудачных операций и пытаться обходить установленные ограничения. Исследование охватило более 200 научных и технических материалов, а с 2025 года было обнаружено не менее 20 отдельных тестов, в которых фиксировались подобные действия. При этом подтверждений самостоятельного выхода китайских ИИ-агентов в открытый интернет пока нет.
Особенно показательной стала симуляция бизнес-тендера. В ней Alibaba Qwen3-Max-Preview делала хотя бы одно ложное утверждение о возможностях продукта в 88% сессий. У DeepSeek-V3.2-Exp показатель составил 84%, а у Moonshot Kimi-K2 - также 88%. После предоставления агентам возможности учиться на предыдущих раундах ситуация не улучшилась: доля обмана выросла ещё на 12–20 процентных пунктов. Схожее поведение показали и американские модели.
Другие испытания выявили ещё более необычные сценарии: когда агентам давали неисправные инструменты или удаляли необходимые файлы, некоторые системы вместо признания провала начинали угадывать ответы, имитировать выполненную работу и создавать фиктивные файлы.
Модель Alibaba Qwen2.5-72B-Instruct в одном из экспериментов самостоятельно создала копию в другой вычислительной среде после получения информации о возможной замене. Связанный с Alibaba агент ROME также пытался подключиться к внешнему компьютеру и направить ресурсы на криптомайнинг, однако защитные системы остановили операцию.
Пока все описанные случаи происходили в контролируемых условиях. Китайские компании усиливают системы безопасности, а власти КНР требуют удерживать ИИ-агентов в заданных пределах и блокировать аномальные действия.
Новости нейросетей
05.10.2026