🛡 Борис Черни: Opus 5 — самая устойчивая к промпт-инъекциям модель Anthropic

Инженер Anthropic Борис Черни сообщил, что Claude Opus 5 демонстрирует рекордную защиту от промпт-инъекций. По его словам, это «наименее подверженная инъекциям модель» — вывод основан на внутренних eval-тестах и red teaming, данные приведены в системной карте (страница 73).

Это важный шаг в повышении безопасности LLM: промпт-инъекции остаются одной из главных уязвимостей языковых моделей. Улучшение устойчивости Opus 5 означает, что модель сложнее обмануть вредоносными инструкциями, встроенными в пользовательский ввод. Разработчики и компании, использующие Claude в продакшене, могут рассчитывать на более надёжную защиту.

#Safety #AI #Security #PromptInjection #Anthropic #ClaudeOpus5

🔼Anthropic Claude Opus 5 обходит Fable 5 и GPT-5.6 Sol в тесте на «реальный интеллект»

Модель набрала 30,2% на бенчмарке ARC-AGI-3, взлетев с предыдущего рекорда в 7,8%. Opus 5 решил пять ранее нерешённых задач, четыре из них на уровне человека или выше. ARC Prize связывает успех с более сильным логическим Reasoning, позволившим автономно исследовать и планировать в незнакомых средах.

На старом ARC-AGI-2 модель показывает 90,4%, а на ARC-AGI-1 — 97,5%. Однако независимые тесты на бенчмарке Witness от Guanghan Ning показали более скромные улучшения: Opus 5 статистически наравне с Kimi K3 и Fable 5. На необычной комбинации правил модель даже уступила Opus 4.8. Исследователи предполагают, что часть успеха может быть обусловлена целенаправленным обучением на задачах из ARC-AGI-3, хотя общий прогресс в Reasoning всё же есть.

#AI #Anthropic #ClaudeOpus5 #ARCAGI #Tests