❗️Фильтр биооружия Anthropic был отключён почти год — 133 млн запросов прошли без проверки

Согласно отчёту по безопасности, опубликованному Anthropic, классификаторы, блокирующие использование моделей для получения опасных знаний о химическом и биологическом оружии, были неактивны с мая 2025 по апрель 2026 года. В этот период весь трафик от внешних подрядчиков, участвовавших в разметке и обратной связи, обрабатывался без защиты.

Проблема затронула пул примерно из 50 000 человек, которые суммарно провели около 133 млн чатов с моделями. В Anthropic отмечают, что эти люди проходили проверку силами сторонних вендоров, чьи процедуры скрининга часто оказывались недостаточными. Внутреннее расследование компании не выявило признаков реального злоупотребления, однако требования к подрядчикам уже ужесточены.

Отдельно в отчёте упоминается, что недавно Anthropic смягчила собственные классификаторы на модели Fable 5 после жалоб исследователей: фильтры были настолько агрессивными, что блокировали легитимную научную работу. Теперь компании предстоит найти баланс между защитой от реальных угроз и излишним ограничением полезного использования моделей.

#Safety #Anthropic #AISecurity #BioSafety #AI