❌ Бенчмарк по ядерному саботажу провалили почти все ведущие ИИ-модели

Новый тест Nuclear Sabotage Malware Benchmark показал, что современные frontier AI-модели не справляются с задачами по выявлению вредоносного ПО, нацеленного на объекты ядерной инфраструктуры. Бенчмарк моделирует сценарии кибератак на АЭС и системы управления ядерными материалами, требуя от ИИ анализа сложных многокомпонентных угроз.

Большинство протестированных моделей, включая лидеров рынка, продемонстрировали низкую точность детекции и высокий уровень ложных срабатываний. Разработчики бенчмарка подчёркивают, что существующие AI-системы пока не готовы к реальной защите критической инфраструктуры от целенаправленных атак — особенно в сценариях, где требуется понимание физических процессов ядерного реактора и цепочек техногенных последствий.

Результаты теста ставят под вопрос использование LLM в системах безопасности объектов повышенной опасности без дополнительной fine-tuning и специализированных датасетов. Исследователи призывают к созданию отраслевых стандартов тестирования AI для критической инфраструктуры.

#Safety #AI #CyberSecurity #NuclearSafety #LLM #Benchmark