Исследователи в области кибербезопасности проанализировали, как именно злоумышленники пытаются использовать системы искусственного интеллекта, и выяснили, что интерес хакеров смещается от классических взломов инфраструктуры к манипуляциям самими ИИ-моделями. Главная цель - не просто получить доступ к данным, а заставить алгоритмы выполнять нужные атакующим действия.
Одним из ключевых направлений атак становится попытка «отравления данных» - внедрения искажённой информации в обучающие выборки, чтобы модель принимала неверные решения. Также фиксируются попытки обхода защитных фильтров через специально сформулированные запросы, которые позволяют извлекать скрытые инструкции или конфиденциальные данные.
Отдельное внимание уделяется использованию ИИ в автоматизации атак. По данным исследования, злоумышленники всё чаще применяют языковые модели для генерации фишинговых писем, создания вредоносного кода и масштабирования социальных инженерных схем. Это снижает порог входа в киберпреступность и ускоряет проведение атак.
Ещё один тренд - попытки атак на инфраструктуру ИИ-сервисов, включая API и облачные модели. Хакеры стремятся получить контроль над потоками запросов или перехватить ответы систем, чтобы использовать их в дальнейшем.
Эксперты отмечают, что ИИ стал не только инструментом защиты, но и новой поверхностью для атак, которая развивается быстрее, чем традиционные методы кибербезопасности успевают адаптироваться.
Новости нейросетей
10.06.2026