🛡Новые модели ИИ могут стать оружием хакеров

Руководители ведущих компаний в области искусственного интеллекта и представители правительства сообщили генеральному директору Axios Джиму ВандеХею, что Anthropic, OpenAI и другие технологические гиганты вскоре выпустят новые модели, которые будут пугающе эффективны в масштабном взломе сложных систем. Особое внимание привлекает модель Anthropic, которая пока не выпущена и носит кодовое название "Mythos".

Компания Anthropic в частном порядке предупреждает высших государственных чиновников о том, что эта модель значительно повышает вероятность крупномасштабных кибератак в 2026 году. Ключевая особенность новой модели заключается в том, что она позволяет автономным агентам работать самостоятельно, демонстрируя высокий уровень изощренности и точности для проникновения в корпоративные системы. Эти агенты способны действовать без постоянного контроля человека, что открывает новые возможности для сложных и скоординированных атак.

Ожидается, что подобные модели от разных разработчиков появятся в ближайшее время, что создает новую серьезную угрозу для кибербезопасности. Официальные лица выражают обеспокоенность по поводу того, что такие инструменты могут попасть в руки злоумышленников и использоваться для атак на критически важную инфраструктуру, финансовые системы и корпоративные сети. Это предупреждение подчеркивает необходимость разработки новых мер защиты и, возможно, регулирования на фоне стремительного развития возможностей ИИ в этой сфере.

#Mythos #hacking #cyberattack

🛡 Anthropic заявляет о создании слишком мощной для публики AI-модели

Компания Anthropic на этой неделе заявила, что создала модель искусственного интеллекта настолько мощную, что, руководствуясь чувством огромной ответственности, не собирается выпускать её для публичного использования. Компания объяснила это решение потенциальными рисками, связанными с неограниченным доступом к столь продвинутой технологии.

Однако некоторые эксперты отнеслись к этому заявлению со скептицизмом. Известный критик ИИ Гэри Маркус прокомментировал, что генеральный директор Anthropic Дарио Амодеи, обладая большими техническими знаниями, чем Сэм Альтман из OpenAI, "похоже, окончил ту же школу преувеличений и хайпа".

Внутри компании сотрудники выражают гордость за работу в Anthropic, подчёркивая её миссию по созданию безопасного и полезного ИИ. Этот инцидент highlights растущую напряжённость в индустрии между стремлением к инновациям и необходимостью обеспечения безопасности, а также тактику публичных заявлений, используемую для позиционирования компаний на рынке.

Решение не выпускать модель отражает более широкие дебаты в сообществе ИИ о порогах безопасности, этических границах и о том, как компании должны сообщать о своих достижениях, не раздувая нереалистичных ожиданий и не создавая потенциальных угроз.

#Anthropic #Claude #Mythos

Что дальше: май 2026 — Gemini Flash 3.5, Mythos и новая расстановка сил в AI

В новом выпуске авторского блога Interconnects представлен прогноз ключевых трендов AI на май 2026 года. Среди главных тем — выход Gemini Flash 3.5, проект Mythos, баланс между открытыми и закрытыми моделями, а также рост американского open-source и emerging power struggles (формирующиеся конфликты влияния).

Gemini Flash 3.5, по оценке автора, станет значимым шагом в серии лёгких моделей Google, нацеленных на скорость и эффективность при сохранении качества. Проект Mythos упоминается как потенциальный катализатор изменений в подходах к обучению и архитектуре — возможно, речь идёт о новой парадигме работы с контекстом или мультимодальностью.

Особое внимание уделено «открыто-закрытому балансу»: на фоне успехов открытых моделей (например, Llama и Mistral) крупные игроки вынуждены пересматривать стратегии. В США фиксируется всплеск open-source инициатив, что может изменить глобальную конкурентную карту. Автор также отмечает нарастание «борьбы за власть» между ключевыми лабораториями и платформами, что в ближайшие месяцы определит вектор развития индустрии.

#AI #GeminiFlash #OpenSource #Trending #Mythos

🏆 Anthropic представила Claude Fable 5 — первую модель «класса Mythos».

По заявлению Anthropic, возможности Fable 5 превосходят любую ранее выпущенную ими модель: она показывает state-of-the-art результаты почти на всех протестированных бенчмарках — в разработке ПО, аналитической работе, компьютерном зрении и научных исследованиях. «Чем длиннее и сложнее задача, тем больше отрыв Fable 5 от остальных наших моделей», — отмечают в компании.

Главная особенность запуска — не только мощность, но и встроенные ограничители. Из-за риска злоупотреблений в чувствительных областях (кибербезопасность, биология и химия, а также попытки «дистилляции» модели) Anthropic добавила классификаторы: при срабатывании на потенциально опасный запрос ответ автоматически генерирует не Fable 5, а «следующая по мощности» модель — Claude Opus 4.8. Пользователя об этом уведомляют. По данным компании, более 95% сессий проходят вообще без переключения, а сами фильтры настроены намеренно консервативно — иногда они ловят и безобидные запросы (в среднем срабатывают менее чем в 5% сессий).

Параллельно для узкого круга «киберзащитников» и провайдеров критической инфраструктуры запускается Claude Mythos 5 — та же базовая модель, но со снятыми ограничителями в отдельных областях. Mythos 5 разворачивается через Project Glasswing в сотрудничестве с правительством США и, по словам Anthropic, обладает «сильнейшими в мире» киберзащитными возможностями.

Из прикладных результатов: Stripe сообщила, что Fable 5 «сжала месяцы инженерной работы в дни» — миграцию кодовой базы Ruby на 50 млн строк, на которую у команды ушло бы более двух месяцев вручную, модель выполнила за один день. В играх Fable 5 впервые прошла Pokémon FireRed, опираясь только на скриншоты без вспомогательных инструментов. На научном фронте Mythos 5 ускорила отдельные этапы дизайна белков примерно в 10 раз и стала первой моделью Anthropic, которая стабильно выдаёт новые научные гипотезы — в слепых сравнениях учёные предпочитали её гипотезы по молекулярной биологии примерно в 80% случаев.

Цены на обе модели — $10/млн входных токенов и $50/млн выходных, что более чем вдвое дешевле предыдущей Mythos Preview. В API модель доступна как claude-fable-5. Из-за ожидаемого высокого спроса доступ в подписках раскатывают поэтапно: с момента запуска по 22 июня Fable 5 включена в планы Pro, Max, Team и seat-based Enterprise без доплаты; с 23 июня её уберут из этих планов, и использование потребует usage-кредитов; позже, при наличии мощностей, компания намерена вернуть Fable 5 в подписки как стандартную опцию.

Отдельно Anthropic вводит новую политику хранения данных: для всех моделей класса Mythos обязательное 30-дневное удержание трафика (на собственных и сторонних платформах). Эти данные не будут использоваться для обучения и применяются только в целях безопасности — для защиты от сложных атак и снижения числа ложных срабатываний фильтров.

#AI #Mythos

☣️ Заявление по поводу распоряжения правительства США о приостановке доступа к Fable 5 и Mythos 5.

12 июня 2026 г.

Правительство США, ссылаясь на органы национальной безопасности, издало директиву по экспортному контролю, запрещающую доступ к Fable 5 и Mythos 5 для всех иностранных граждан, как внутри, так и за пределами Соединенных Штатов, включая иностранных сотрудников Anthropic. В результате этого распоряжения мы вынуждены внезапно отключить доступ к Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований. Доступ ко всем остальным моделям Anthropic останется без изменений.
Сегодня в 17:21 (восточное время) мы получили директиву от правительства. В письме не содержалось конкретных деталей, касающихся опасений в отношении национальной безопасности. Насколько нам известно, правительство считает, что ему стало известно о методе обхода или «взлома» Fable 5. Мы изучили демонстрацию использования этой конкретной методики для выявления небольшого числа ранее известных незначительных уязвимостей. Все эти уязвимости кажутся относительно простыми, и мы обнаружили, что другие общедоступные модели также способны обнаруживать их без необходимости обхода.
Позиция компании Anthropic в отношении мер безопасности Fable, такова:
Мы внедрили надежные меры защиты, которые значительно снижают вероятность неправомерного использования Fable для задач, связанных с кибербезопасностью (и не только). На самом деле, наши меры защиты настолько сильны, что многие пользователи жаловались на их чрезмерную широту.
В течение нескольких недель, предшествовавших запуску Fable, компания Anthropic работала с правительством США, британским институтом AISI, многочисленными частными сторонними организациями и внутренними командами, в общей сложности потратив тысячи часов на проверку систем безопасности Fable.
Эти тесты показали, что системы защиты Fable значительно эффективнее, чем у любой ранее использовавшейся модели.
Пока ни одному из тестировщиков не удалось найти универсальный джейлбрейк — метод, который мог бы в значительной степени обойти средства защиты модели, разблокировав широкий спектр кибервозможностей.
Мы предполагаем, что идеальная защита от джейлбрейка в настоящее время невозможна ни для одного поставщика моделей. Любая используемая в отрасли защита уязвима для неуниверсальных джейлбрейков (которые могут получить некоторую кибер-информацию при определенных обстоятельствах), и вполне вероятно, что универсальные джейлбрейки в конечном итоге будут найдены. Мы четко заявили об этом при выпуске Fable 5
Учитывая, что идеальная защита от джейлбрейка сегодня, по-видимому, невозможна, Anthropic применила стратегию многоуровневой защиты в Fable 5. Мы стремились сделать джейлбрейки либо узкоспециализированными (в случае неуниверсальных джейлбрейков), либо очень дорогостоящими в производстве (в случае универсальных джейлбрейков), и сочетать это с тщательным мониторингом для быстрого обнаружения и пресечения любых успешных атак. Именно поэтому Anthropic потребовала 30-дневного хранения данных клиентов в Fable — изменение политики, которое влечет за собой реальные затраты для нас в отношении клиентов , но позволяет нам исследовать и предотвращать джейлбрейки.
Мы поддерживаем эту стратегию многоуровневой защиты. Она снижает риски, связанные с Fable, делая их сопоставимыми с рисками существующих моделей, уже используемых в отрасли.
Мы даже не получили никаких сообщений о потенциально опасных, не универсальных взломах, которые привели бы к негативным последствиям. Те потенциальные взломы, о которых нам сообщили, либо представляют собой совершенно безобидные реакции, либо являются незначительными результатами, не приносящими никакой пользы для Mythos.
На сегодняшний день правительство предоставило нам лишь устные доказательства потенциального узкоспециализированного, не универсального джейлбрейка, который, по сути, заключается в том, чтобы попросить модель прочитать определенный код и исправить любые программные ошибки. Насколько нам известно, правительству был предоставлен.

#SAFETY #Fable5 #Mythos