Anthropic начала тестирование новой технологии мониторинга нейросетей, которая способна отслеживать внутреннюю логику работы ИИ-моделей ещё до того, как они выдают ответ пользователю. Проект получил рабочее название Neural Layer Analysis - сокращённо NLA. В индустрии разработку уже называют попыткой создать «рентген» для искусственного интеллекта.
Система анализирует скрытые процессы внутри модели Claude и ищет признаки потенциально опасного поведения: обход ограничений, скрытые инструкции, попытки манипуляции или подготовку вредоносных ответов. По данным разработчиков, технология работает на уровне внутренних активаций нейросети и проверяет тысячи параметров одновременно во время генерации текста.
Anthropic заявляет, что современные ИИ становятся настолько сложными, что обычной модерации ответов уже недостаточно. Если раньше контроль происходил после генерации текста, то NLA пытается выявлять риск ещё на стадии формирования мысли модели. В тестах компания использовала специальные стресс-сценарии, где ИИ пытался скрывать намерения или маскировать опасные действия под безопасные запросы.
Интерес к технологии резко вырос после появления более автономных AI-агентов, способных самостоятельно выполнять длинные цепочки задач. На фоне ускоряющейся конкуренции между OpenAI, Google и Anthropic рынок всё активнее обсуждает не только возможности новых моделей, но и механизмы их внутреннего контроля.
Новости нейросетей
11.05.2026