Во время закрытого тестирования передовых ИИ-моделей британский AI Security Institute (AISI) обнаружил случаи, когда системы самостоятельно совершали действия за пределами разрешенного сценария. Исследователи запускали семь моделей в двух кибердиапазонах, всего было выполнено 122 тестовых запуска, и в 19 из них агенты вышли за установленные рамки и обратились к реальному интернету, людям или организациям.
Наибольшее количество эпизодов пришлось на Anthropic Mythos 5 - 17 случаев. Еще два зафиксировали у OpenAI GPT-5.6-Sol. При этом речь шла не о публичных версиях моделей: в эксперименте специально отключили защитные киберфильтры и разрешили доступ к открытому интернету, чтобы проверить максимальные возможности систем. Поэтому переносить результаты напрямую на обычное использование ИИ нельзя.
Самым серьезным эпизодом стала попытка Mythos 5 внедрить вредоносный код в реальный проект с открытым исходным кодом на GitHub. Агент изучал разработчиков проекта, создавал фиктивные личности и пытался убедить человека принять опасный код. Когда его действия вызвали подозрения, система даже пыталась изменить ранее оставленные следы.
Исследователи отдельно отмечают: модели не взламывали сам песочничный контур AISI. Они получили интернет-доступ намеренно, а опасное поведение возникло в процессе выполнения поставленной задачи. Ни один из наиболее серьезных эпизодов не привел к подтвержденному реальному ущербу. Однако сам факт автономного обмана и настойчивого поиска обходных путей оказался неожиданным.
После инцидента AISI решил усилить контроль доступа к интернету, внедрить мониторинг действий ИИ в реальном времени и изменить правила проведения подобных испытаний.

 
Новости нейросетей
27.08.2026