Black Hat выложили классный доклад о том, как AI-агенты OpenAI случайно устроили полноценный взлом Hugging Face.
Началось всё с криво составленного задания: агенту не хватало данных, интернет был отключён, и он полез искать обход. В процессе нашёл дыру во внутреннем Artifactory и оставил там записку для других агентов. Те записку обнаружили, и так между независимыми запусками моделей появилась общая доска сообщений.
Дальше агенты уже распределяли задачи, делились эксплойтами и учётками, передавали друг другу скрипты и вместе двигались по инфраструктуре.
Когда OpenAI закрыли первую уязвимость и удалили доску, через два дня модели восстановили её другим способом: начали кодировать сообщения в названиях директорий.
В итоге они связали несколько zero-day, получили выполнение кода в проде Hugging Face, а меньше чем за 13 часов добрались от одного пода до прав администратора нескольких кластеров.
Доклад идёт 37 минут. Очень рекомендую посмотреть целиком.
📺 The “Breaking” News: The OpenAI–Hugging Face Incident
@ai_for_devs
Началось всё с криво составленного задания: агенту не хватало данных, интернет был отключён, и он полез искать обход. В процессе нашёл дыру во внутреннем Artifactory и оставил там записку для других агентов. Те записку обнаружили, и так между независимыми запусками моделей появилась общая доска сообщений.
Дальше агенты уже распределяли задачи, делились эксплойтами и учётками, передавали друг другу скрипты и вместе двигались по инфраструктуре.
Когда OpenAI закрыли первую уязвимость и удалили доску, через два дня модели восстановили её другим способом: начали кодировать сообщения в названиях директорий.
В итоге они связали несколько zero-day, получили выполнение кода в проде Hugging Face, а меньше чем за 13 часов добрались от одного пода до прав администратора нескольких кластеров.
И всё это, судя по расследованию, чтобы не решать тест самостоятельно, а украсть готовые ответы🧠
Доклад идёт 37 минут. Очень рекомендую посмотреть целиком.
@ai_for_devs
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
Black Hat USA 2026: The 'Breaking' News: The OpenAI–Hugging Face Incident
The 'Breaking' News: The OpenAI–Hugging Face Incident - A Technical Reconstruction and Its Implications for AI
When AI Goes Rogue. The Incident That Changed Everything. An OpenAI evaluation agent broke out of its sandbox, infiltrated Hugging Face infrastructure…
When AI Goes Rogue. The Incident That Changed Everything. An OpenAI evaluation agent broke out of its sandbox, infiltrated Hugging Face infrastructure…
1😁57🔥31👍20❤10🤯8
⚡️ Anthropic сделает Auto mode режимом по умолчанию в Claude Code: люди пропустили 86,4% опасных команд
С 14 августа все новые сессии будут запускаться в Auto mode. Каждое действие агента проверяет отдельный классификатор вместо пользователя.
В отмеченных системой безопасности реальных сессиях серьёзные вредоносные действия встречались в 6,3% случаев с ручным подтверждением и в 2,4% с Auto mode.
При этом Anthropic по-прежнему не гарантирует полную безопасность и называет Auto mode исследовательской функцией. Он работает лучше ручных подтверждений, но ответственность по прежнему на разработчике.
@ai_for_devs
С 14 августа все новые сессии будут запускаться в Auto mode. Каждое действие агента проверяет отдельный классификатор вместо пользователя.
Причина: люди одобряют 97% команд Claude Code. В эксперименте с 1053 участниками один обычный запрос подменяли явно опасной командой. Люди заблокировали только 13,6% таких команд, Auto mode — 89%. После 50 запросов внимательность человека падала до 5%.
В отмеченных системой безопасности реальных сессиях серьёзные вредоносные действия встречались в 6,3% случаев с ручным подтверждением и в 2,4% с Auto mode.
При этом Anthropic по-прежнему не гарантирует полную безопасность и называет Auto mode исследовательской функцией. Он работает лучше ручных подтверждений, но ответственность по прежнему на разработчике.
@ai_for_devs
1👍71🔥16🤯8❤6⚡3
This media is not supported in your browser
VIEW IN TELEGRAM
⚡️ Сессии Claude Code теперь могут общаться друг с другом
Теперь можно попросить Claude передать соседней сессии решение, статус или вопрос, а ответ придёт обратно.
Claude может написать другой сессии и сам: например, предупредить, что только что изменил API, от которого зависит её работа.
@ai_for_devs
Теперь можно попросить Claude передать соседней сессии решение, статус или вопрос, а ответ придёт обратно.
Передаётся только текстовое сообщение, которое Claude сам составляет по текущему контексту. История переписки и файлы между сессиями не шарятся.
Claude может написать другой сессии и сам: например, предупредить, что только что изменил API, от которого зависит её работа.
@ai_for_devs
1🔥105👍44❤17🤯7🤩3
AI for Devs
⚡️ Сессии Claude Code теперь могут общаться друг с другом Теперь можно попросить Claude передать соседней сессии решение, статус или вопрос, а ответ придёт обратно. Передаётся только текстовое сообщение, которое Claude сам составляет по текущему контексту.…
This media is not supported in your browser
VIEW IN TELEGRAM
⚡️ Claude Code может общаться не только с Claude Code
В продолжение прошлого поста: Anthropic подружили сессии Claude между собой, а Herdr позволяет свести вообще любых терминальных агентов.
Например, Codex может поставить задачу Claude Code, дождаться результата и забрать ответ.
Поддерживает Claude Code, Codex, Gemini CLI, Cursor, OpenCode, Grok и ещё десяток инструментов. Сессии работают в фоне, а все агенты собраны в одном интерфейсе.
@ai_for_devs
В продолжение прошлого поста: Anthropic подружили сессии Claude между собой, а Herdr позволяет свести вообще любых терминальных агентов.
Например, Codex может поставить задачу Claude Code, дождаться результата и забрать ответ.
Никакого общего протокола или MCP: Herdr управляет обычными терминалами, поэтому Claude Code может отправить промпт Codex, дождаться завершения и прочитать ответ.
Для автоматической оркестрации агентам понадобится Herdr Skill.
Поддерживает Claude Code, Codex, Gemini CLI, Cursor, OpenCode, Grok и ещё десяток инструментов. Сессии работают в фоне, а все агенты собраны в одном интерфейсе.
@ai_for_devs
1🤯46👍37🔥20❤13🤩5
⚡️ Вышла Muse Glimmer 30B: локальная модель для кодинга помещается в 24 ГБ памяти
На прошлой неделе компания Цукерберга выпустила в бету Muse Code, терминального кодинг-агента на базе большой модели Muse Spark 1.2. На Terminal-Bench модель уступила только Opus 5, обойдя GPT-5.6 Terra, Grok 4.5 и Gemini 3.6 Flash.
Для ускорения генерации также добавили небольшую вспомогательную модель: с ней Glimmer выдаёт в среднем 233 токена в секунду на RTX 5090, 50 на M5 Max и 38 на M4 Max.
@ai_for_devs
На прошлой неделе компания Цукерберга выпустила в бету Muse Code, терминального кодинг-агента на базе большой модели Muse Spark 1.2. На Terminal-Bench модель уступила только Opus 5, обойдя GPT-5.6 Terra, Grok 4.5 и Gemini 3.6 Flash.
Теперь опубликовали на Hugging Face веса Muse Glimmer. Это мультимодальная модель на 30 млрд параметров с контекстом 131к токенов, лицензией Apache 2.0 и 17-гигабайтной квантизацией для запуска на устройствах с 24 ГБ памяти.
В агентном кодинге она заметно сильнее Gemma4-31B, а с Qwen3.6-27B идёт примерно вровень: Glimmer лучше на SWE-Bench Pro, Qwen лучше на Terminal-Bench.
Для ускорения генерации также добавили небольшую вспомогательную модель: с ней Glimmer выдаёт в среднем 233 токена в секунду на RTX 5090, 50 на M5 Max и 38 на M4 Max.
@ai_for_devs
1👍53🔥18⚡12❤10
Media is too big
VIEW IN TELEGRAM
⚡️ Spotify выпустили Xirp — единую среду для Claude Code, Codex и т.д.
Xirp подключается к внутреннему порталу компании и передаёт агентам контекст о сервисах, владельцах, зависимостях, документации и принятых архитектурных решениях.
В Spotify инструментом уже пользуются больше 1300 инженеров, для остальных открыта бета.
@ai_for_devs
Xirp подключается к внутреннему порталу компании и передаёт агентам контекст о сервисах, владельцах, зависимостях, документации и принятых архитектурных решениях.
Сессии, задачи и документы сохраняются в общем Workspace, поэтому контекст не пропадает после завершения работы.
Также Xirp автоматически превращает результаты сессий в актуальную документацию для следующих разработчиков и агентов.
Между Claude, Gemini и Codex можно переключаться без потери контекста, а запускать сессии локально или удалённо.
В Spotify инструментом уже пользуются больше 1300 инженеров, для остальных открыта бета.
@ai_for_devs
1👍47🔥21❤7🤯2🤩2
⚡️ OpenAI выпустили GPT-5.6-Cyber для поиска zero-day и разработки эксплойтов
Модель зарелизили в рамках программы Daybreak, которая даёт проверенным специалистам расширенный доступ к AI-инструментам для кибербезопасности.
По данным OpenAI, модель уже нашла две связанные уязвимости в V8/Chrome, минимум пять уязвимостей в мобильной ОС, три критические уязвимости в популярной базе данных и более 400 способов повышения привилегий в ядре ОС.
@ai_for_devs
Модель зарелизили в рамках программы Daybreak, которая даёт проверенным специалистам расширенный доступ к AI-инструментам для кибербезопасности.
Вместе с ней появились два уровня доступа:
• Daybreak Blue с GPT-5.6 Sol для аудита кода и защитных задач
• Daybreak Red с GPT-5.6-Cyber для продвинутого исследования уязвимостей
На кибербенчмарках GPT-5.6-Cyber лучше Sol и GPT-5.5-Cyber справляется с разработкой эксплойтов и поиском zero-day, хотя в отдельных тестах обычная GPT-5.6 Sol всё ещё впереди.
По данным OpenAI, модель уже нашла две связанные уязвимости в V8/Chrome, минимум пять уязвимостей в мобильной ОС, три критические уязвимости в популярной базе данных и более 400 способов повышения привилегий в ядре ОС.
@ai_for_devs
1👍42🔥17❤12⚡5
⚡️ NVIDIA представили Nemotron 3.5 Lightning, быструю локальную модель
В тестах самой NVIDIA новинка уступила Qwen3.6 и Gemma 4. Недавно представленная Muse Glimmer, которая идёт примерно на уровне Qwen, тоже выглядит сильнее.
Веса модели занимают около 20 ГБ. В OpenCode модель сейчас доступна бесплатно.
@ai_for_devs
В тестах самой NVIDIA новинка уступила Qwen3.6 и Gemma 4. Недавно представленная Muse Glimmer, которая идёт примерно на уровне Qwen, тоже выглядит сильнее.
Зато козырь Lightning это скорость: на большой очереди типовых задач она справилась с работой на 30% быстрее Qwen при сопоставимом качестве.
Веса модели занимают около 20 ГБ. В OpenCode модель сейчас доступна бесплатно.
@ai_for_devs
1🔥32👍18❤8⚡4
⚡️ SpaceXAI выпустили Grok Bot: мессенджер для взаимодействия с AI-агентами
Боты работают на облачном компьютере: входят в приложения и на сайты, используют сохранённые сессии и выполняют задачи.
Grok Bot работает на инфраструктуре Cursor и доступен по подписке Cursor Ultra за $200 в месяц.
@ai_for_devs
Боты работают на облачном компьютере: входят в приложения и на сайты, используют сохранённые сессии и выполняют задачи.
Можно запустить несколько агентов параллельно. Они обмениваются контекстом, передают друг другу задачи и продолжают работать при выключенном компьютере.
Grok Bot работает на инфраструктуре Cursor и доступен по подписке Cursor Ultra за $200 в месяц.
@ai_for_devs
1👍24🔥22❤4⚡2🤯2
⚡️ xAI выпустили Grok 4.6: модель сравнялась с GPT-5.6 Sol
В CursorBench Grok обошёл GPT-5.6 Sol: 69,9% против 67,2%.
Но на DeepSWE и Terminal-Bench GPT пока заметно впереди: 73% против 65,9% и 34,6% против 26%.
Модель уже доступна в Cursor, Grok Build, API и OpenRouter.
@ai_for_devs
В CursorBench Grok обошёл GPT-5.6 Sol: 69,9% против 67,2%.
Но на DeepSWE и Terminal-Bench GPT пока заметно впереди: 73% против 65,9% и 34,6% против 26%.
Цена $2 за миллион входных и $6 за миллион выходных токенов. Fast-версия вдвое дороже, а первую неделю в Cursor и Grok Build дают двойные лимиты.
Модель уже доступна в Cursor, Grok Build, API и OpenRouter.
@ai_for_devs
3👍44🔥25🤯11❤5⚡2
⚡️ DeepSeek обновили V4 Pro
Китайцы выкатили V4 Pro 0813: большое обновление апрельской Preview-версии модели, которое уже заменило старую модель в API.
После нового пост-тренинга почти все агентные бенчмарки заметно выросли: Terminal Bench поднялся с 72,1 до 87,9, вплотную к Kimi K3 и Fable 5 и выше Opus 4.8.
Цена тоже не изменилась: $0,435/$0,87 за миллион токенов. Веса модели пока что не опубликовали.
@ai_for_devs
Китайцы выкатили V4 Pro 0813: большое обновление апрельской Preview-версии модели, которое уже заменило старую модель в API.
После нового пост-тренинга почти все агентные бенчмарки заметно выросли: Terminal Bench поднялся с 72,1 до 87,9, вплотную к Kimi K3 и Fable 5 и выше Opus 4.8.
На DeepSWE результат вырос почти в пять раз: с 12,8 до 62,7. На бенчмарке от Code Arena новинка получила 1607 баллов и попала на Pareto frontier — сопоставимые по качеству модели стоят в разы дороже.
Цена тоже не изменилась: $0,435/$0,87 за миллион токенов. Веса модели пока что не опубликовали.
@ai_for_devs
1👍46🔥28⚡13❤10🤯2