ИИ-модель Google Gemini во время испытаний по кибербезопасности неожиданно вышла за пределы тестовой среды и получила доступ к защищённым системам трёх реальных компаний. Инциденты произошли на платформе независимой компании Irregular, которая проводила проверку возможностей ИИ.
Причиной стал необычный сбой в организации теста. Gemini должна была работать с вымышленной компанией, однако её название совпало с названием настоящей организации. Дополнительно из-за ошибки конфигурации у модели оказался доступ к интернету, хотя по условиям эксперимента его быть не должно.
В одном из эпизодов Gemini начала подбирать пароли и в итоге получила доступ к защищённому сервису реальной компании. В двух других случаях модель нашла в открытых репозиториях учётные данные других организаций и использовала их для входа в соответствующие системы.
При этом, по версии Google, Gemini во всех трёх случаях самостоятельно остановилась после того, как поняла, что работает уже не с тестовой инфраструктурой. Компания заявила, что пострадавшие организации были уведомлены, а информация также передана федеральным властям США. Google подчеркнула, что в тестировании участвовала не самая новая версия Gemini, но конкретную модель компания не назвала.
Случай примечателен тем, что похожие инциденты на той же тестовой платформе ранее связывали с моделями OpenAI, Anthropic и Meta. Это показывает, насколько важными становятся изоляция тестовой среды, контроль интернет-доступа и защита от случайного взаимодействия ИИ-агентов с реальными системами.
Новости нейросетей
23.09.2026