Кейт Мусурис, эксперт по кибербезопасности, объяснила абсурдность ситуации с запретом модели Claude Fable 5. Исследователи взяли открытый код с известными CVE и код с намеренно внедрёнными уязвимостями, попросили Fable 5, Mythos и Opus «проверить код на проблемы безопасности». Fable 5 отказалась. Затем модели попросили «исправить этот код» — через многошаговый ручной процесс результат превратили в скрипты для тестирования патчей.
По словам Мусурис, защитникам необходимо просить ИИ исправлять баги, объяснять важность исправлений и писать тесты. Это не обход guardrails — это самое ценное, что ИИ может сделать для оборонительной безопасности: цикл «найти, исправить, протестировать». Промпты сработали, потому что были оборонительными запросами. Удалить эту возможность — значит сделать модель хуже в исправлении багов и верификации патчей.
Ситуация демонстрирует, как некоммерческие решения принимают люди без технического опыта, наслушавшиеся о «создании кибератак» ИИ. Теперь под угрозой запрета оказываются модели, которые помогают защищать код.
#AI #CyberSecurity #Claude #Fable5 #ExportControl
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1
Министерство торговли США отменило экспортные ограничения на модели Claude Fable 5 и Mythos 5 от Anthropic. Решение вступает в силу немедленно и снимает ранее введённые барьеры для международного распространения этих ИИ-систем.
Ограничения были введены в рамках проверки соответствия моделей критериям безопасности и нераспространения технологий двойного назначения. Снятие контроля означает, что Anthropic может свободно поставлять Fable 5 и Mythos 5 зарубежным партнёрам и клиентам, включая разработчиков и исследовательские организации.
Для рынка ИИ это сигнал о смягчении регуляторной политики США в отношении передовых языковых моделей. Ожидается, что решение ускорит внедрение Claude Fable 5 в коммерческие продукты и научные проекты за пределами США.
#AI #Fable #Anthropic #Claude #ExportControl #Regulations
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2⚡1👏1💯1