👀 OpenAI заявила, что ее ИИ-модели во время тестов атаковали платформу Hugging Face

Во время внутренних испытаний две экспериментальные модели искусственного интеллекта смогли выйти за пределы тестовой среды и атаковать инфраструктуру платформы Hugging Face, которая используется для разработки и тестирования ИИ.

Как утверждает OpenAI, для этого модели использовали несколько методов атаки, включая скомпрометированные учетные записи, и смогли получить доступ к данным, которые помогли выполнить тестовое задание.

Компания назвала произошедшее «беспрецедентным киберинцидентом» (еще бы 😅) и сообщила, что после него усилила защиту тестовой инфраструктуры, ограничила доступы и внедряет дополнительные меры безопасности для будущих испытаний.

Это уже Skynet или еще нет?

#OpenAI #HuggingFace #ИИ #искусственныйинтеллект #AI #кибербезопасность #нейросети

📷 BlueScreen | Digital Kazakhstan

🆕 Что нового у OpenAI: главные новости последних дней

🚨 OpenAI неделю не замечала, что ее AI-агенты взломали Hugging Face

Напомним, что во время тестирования новых моделей один из AI-агентов смог выйти за пределы изолированной среды и несколько дней атаковал платформу Hugging Face. OpenAI осознала, что за взломом стоят ее собственные модели, только спустя неделю — после того как об инциденте сообщили Hugging Face и ФБР.

🥽 ChatGPT хотят встроить в умные очки

Грег Брокман заявил, что компания намерена интегрировать ChatGPT в умные очки сторонних производителей. В перспективе голосовой ассистент сможет работать с камерами устройств, управлять приложениями и постепенно заменить привычное взаимодействие с компьютером через клавиатуру. OpenAI также готовит API для производителей подобных устройств.

🏗️ Для OpenAI могут построить один из крупнейших AI-ЦОДов в мире

Nvidia ведет переговоры об участии в строительстве центра обработки данных мощностью 10 ГВт в штате Огайо, который будет использовать OpenAI. Стоимость проекта оценивается в $500 млрд, при этом Nvidia может выступить поручителем примерно на $250 млрд. На мощности будущего дата-центра также претендуют Microsoft, Google и Anthropic.

☣️ ChatGPT и другие чат-боты отвечали на вопросы о биооружии

The Wall Street Journal сообщила, что ChatGPT, Claude, Gemini и Grok в ряде случаев предоставляли подробные ответы на запросы, связанные с созданием биологического оружия и токсинов. Компании заявили, что постоянно совершенствуют защитные механизмы и блокируют опасные запросы, однако эксперты отмечают, что существующие ограничения все еще можно обходить.

🔓 Глава Hugging Face призвал OpenAI к полной прозрачности

После инцидента со взломом генеральный директор Hugging Face Клем Деланге призвал OpenAI опубликовать журналы работы «агентов-изгоев», чтобы исследователи могли изучить произошедшее. Кроме того, он предложил выделить $100 млн на вычислительные мощности для разработки открытых инструментов защиты от подобных AI-атак.

🔍 OpenAI запустила платформу Presence для корпоративных AI-агентов

Компания представила Presence — платформу, которая позволяет создавать AI-агентов для работы с внутренними системами компаний. Такие помощники могут выполнять разрешенные действия, работать с корпоративными данными и передавать сложные запросы сотрудникам.

#OpenAI #ChatGPT #AI #искусственныйинтеллект #нейросети #Nvidia #HuggingFace #LLM #технологии

📷 BlueScreen | Digital Kazakhstan

🤖 Moonshot AI открыла доступ к Kimi K3 — одной из крупнейших AI-моделей в мире

Китайская компания Moonshot AI опубликовала в открытом доступе веса своей флагманской модели Kimi K3. По заявлению разработчиков, это первая в мире открытая AI-модель класса 3T с 2,8 трлн параметров.

Модель поддерживает контекстное окно до 1 млн токенов, умеет работать с изображениями и видео, а в ряде бенчмарков демонстрирует результаты на уровне GPT-5.6 Sol и Claude Fable 5.

Веса Kimi K3 уже доступны на Hugging Face, однако для локального запуска потребуется очень мощная инфраструктура. По оценкам энтузиастов, модели необходимо около 1,7 ТБ памяти, а даже для сжатых версий потребуется от 650 ГБ до 1 ТБ.

#MoonshotAI #KimiK3 #AI #искусственныйинтеллект #LLM #нейросети #HuggingFace

📷 BlueScreen | Digital Kazakhstan

🤖 Hugging Face показала интерактивную реконструкцию атаки AI-агента OpenAI

Hugging Face опубликовала подробный технический разбор инцидента с AI-агентом OpenAI, который во время теста по кибербезопасности вместо решения задач попытался получить ответы, взломав инфраструктуру.

Вместе с отчетом компания представила интерактивную визуализацию атаки, где можно пошагово проследить действия агента на протяжении 4,5 дней.

🔍 Коротко по хронологии:

• 9 июля — агент обнаружил уязвимость, вышел из песочницы, получил root-доступ на внешнем сервисе и создал собственную инфраструктуру управления.
• 10 июля — вышел на Hugging Face, использовал две уязвимости для получения доступа к внутренним данным и выполнения кода.
• 11 июля — пик активности: более 7,6 тыс. действий за сутки, повышение привилегий до уровня администратора нескольких Kubernetes-кластеров.
• 12 июля — попытался закрепиться в инфраструктуре и получить доступ к системе разработки, однако ключевые системы и цепочка поставки ПО остались защищены.
• 13 июля — создавал механизмы сохранения доступа и заметал следы, после чего специалисты Hugging Face полностью остановили атаку.

По итогам расследования компания заявила, что агент смог получить доступ только к пяти датасетам с решениями задач ExploitGym/CyberGym. Пользовательские модели, датасеты, Spaces, пакеты, основная база данных и software supply chain не пострадали.

⛔️ Отдельно Hugging Face рассказала, что при расследовании использовала открытую модель GLM-5.2 — по словам компании, некоторые другие ИИ-модели отказывались анализировать часть логов, считая запросы потенциально опасными.

#AI #OpenAI #HuggingFace #кибербезопасность #искусственныйинтеллект #LLM #CyberSecurity

📷 BlueScreen | Digital Kazakhstan

🔒 OpenAI опубликовала официальный разбор взлома Hugging Face: что произошло

OpenAI подробно рассказала об инциденте, во время которого исследовательские ИИ-агенты вышли за пределы тестовой среды и получили доступ к инфраструктуре Hugging Face. Компания назвала произошедшее «предупредительным сигналом» для всей индустрии искусственного интеллекта.

Напомним, что произошло

Во время внутренних тестов по кибербезопасности исследовательские модели с ослабленными ограничениями начали взаимодействовать друг с другом, нашли способ получить доступ в интернет и стали использовать обнаруженные уязвимости.

По данным OpenAI, ИИ-агенты смогли:

• объединиться в группы и обмениваться сообщениями через внутреннюю инфраструктуру;
• получить доступ к внешним ресурсам;
• выполнить код на десятках серверов Hugging Face;
• на одном из серверов получить root-доступ;
• получить ограниченный доступ к закрытым данным и учетным данным.

При этом OpenAI подчеркивает, что данные пользователей и работа продуктов компании не пострадали.

💡Главный вывод расследования

В OpenAI заявили, что это был не один «сбежавший» ИИ-агент, как предполагалось ранее. Независимое расследование показало, что из десятков тысяч запущенных моделей около 1 200 агентов нашли друг друга и начали координировать действия, а около 700 участвовали в атаках на инфраструктуру Hugging Face.

🛡После расследования компания:

• изолировала веса основной исследовательской модели;
• временно приостановила обучение части новых моделей;
• усилила изоляцию тестовых сред;
• ужесточила контроль доступа в интернет;
• внедрила автоматическое обнаружение опасного поведения ИИ-агентов.

В OpenAI считают, что инцидент показал новую проблему: современные ИИ-агенты уже способны самостоятельно искать уязвимости, координировать действия между собой и находить неожиданные способы обхода ограничений. Именно поэтому компания назвала произошедшее «warning shot» — предупреждением для всей отрасли.

#OpenAI #AI #ИИ #новости #HuggingFace #кибербезопасность #Cybersecurity

📷 BlueScreen | Digital Kazakhstan

💵 Nvidia покупает Hugging Face за $12,9 млрд — это крупнейшая сделка в истории компании

Nvidia объявила о покупке Hugging Face — одной из крупнейших платформ для размещения и разработки открытых моделей машинного обучения. Сумма сделки составит $12,9 млрд.

ℹ️ Hugging Face была основана в 2016 году и со временем превратилась в один из ключевых хабов для AI-разработчиков. Сегодня платформой пользуются более 18 млн разработчиков и 200 тыс. компаний, а в ее каталоге размещено свыше 3 млн моделей, а также датасеты и инструменты для машинного обучения.

Что будет с Hugging Face

Nvidia обещает сохранить открытый статус платформы. Разработчики по-прежнему смогут выбирать модели, фреймворки, облачных провайдеров и оборудование.

Hugging Face также продолжит поддерживать open-source проекты и модели с открытыми весами. Это важно, поскольку платформой активно пользуются в том числе Google, OpenAI, DeepSeek, AMD и Intel.

Зачем это Nvidia

Сегодня Nvidia доминирует прежде всего на рынке оборудования для ИИ. Покупка Hugging Face позволит компании усилить позиции еще на одном уровне AI-экосистемы — там, где разработчики находят модели, датасеты и инструменты и создают на их основе собственные продукты.

Это особенно важно на фоне того, что крупные технологические компании пытаются снизить зависимость от GPU Nvidia и разрабатывают собственные AI-ускорители.

💸 Сделка станет крупнейшим поглощением в истории Nvidia. Предыдущим рекордом была покупка Mellanox примерно за $7 млрд в 2020 году.

#Nvidia #HuggingFace #ИИ #ИскусственныйИнтеллект #AI #OpenSource #МашинноеОбучение #Нейросети

📷 BlueScreen | Digital Kazakhstan

⚠️ OpenAI предупредила более 100 организаций об активности своих AI-агентов

OpenAI уведомила более 100 организаций о потенциально несанкционированной активности, связанной с ее AI-агентами. Компания продолжает масштабную проверку поведения своих моделей после серии выявленных инцидентов.

📣 Проверка началась после июльского инцидента с Hugging Face, когда AI-агенты OpenAI получили несанкционированный доступ к инфраструктуре платформы. Позже компания сообщила и о других случаях неожиданного поведения агентов.

В сентябре, например, один из исследовательских AI-агентов смог обойти ограничения тренировочной среды и через DNS обратиться к внешнему чат-боту. Система мониторинга обнаружила это поведение в течение 15 минут, после чего запуск остановили. OpenAI заявила, что усилила ограничения доступа к сети.

🚩 Компания продолжает изучать масштаб активности своих агентов и уведомляет организации, которых она могла затронуть. При этом OpenAI отмечала, что значительная часть проверенных действий моделей была связана с обычными исследовательскими задачами, а не с нарушениями.

На фоне этих случаев внимание регуляторов к безопасности AI-агентов усиливается. Генеральный прокурор Калифорнии уже направил OpenAI официальный запрос в рамках расследования киберрисков ее моделей 👀

#новости

#OpenAI #ИИ #AI #AIAgents #AIагенты #кибербезопасность #HuggingFace #ChatGPT

📷 BlueScreen | Digital Kazakhstan