MITRE и Microsoft объединяются для противодействия угрозам безопасности Генеративного ИИ
- MITRE и Microsoft внесли изменения в базу знаний MITRE ATLAS, усилив фокусировку на уязвимости генеративного ИИ.
- Обновление структуры базы знаний ATLAS направлено на реальное описание увеличивающегося количества путей атаки в системах с поддержкой больших языковых моделей (LLM).
- Эта информация может использоваться для укрепления защиты от вредоносных атак в важных областях ИИ, включая здравоохранение, финансы и транспорт.
- MITRE ATLAS - это глобально доступная база знаний о тактике и техниках противников, основанная на реальных наблюдениях атак и реалистичных демонстрациях от "красных команд" ИИ и групп безопасности.
- Благодаря экспансии ATLAS, MITRE и Microsoft разрабатывают инструменты, основанные на структуре этой базы знаний, для обеспечения безопасности ИИ в промышленности, государственном секторе и науке.
Применение обновлённого базиса знаний ATLAS поможет укрепить защиту от уязвимостей в ИИ-системах, что сделает их использование более безопасным.
#MITRE #Microsoft #ATLAS
- MITRE и Microsoft внесли изменения в базу знаний MITRE ATLAS, усилив фокусировку на уязвимости генеративного ИИ.
- Обновление структуры базы знаний ATLAS направлено на реальное описание увеличивающегося количества путей атаки в системах с поддержкой больших языковых моделей (LLM).
- Эта информация может использоваться для укрепления защиты от вредоносных атак в важных областях ИИ, включая здравоохранение, финансы и транспорт.
- MITRE ATLAS - это глобально доступная база знаний о тактике и техниках противников, основанная на реальных наблюдениях атак и реалистичных демонстрациях от "красных команд" ИИ и групп безопасности.
- Благодаря экспансии ATLAS, MITRE и Microsoft разрабатывают инструменты, основанные на структуре этой базы знаний, для обеспечения безопасности ИИ в промышленности, государственном секторе и науке.
Применение обновлённого базиса знаний ATLAS поможет укрепить защиту от уязвимостей в ИИ-системах, что сделает их использование более безопасным.
#MITRE #Microsoft #ATLAS
BusinessWire
MITRE and Microsoft Collaborate to Address Generative AI Security Risks
MITRE and Microsoft have added a data-driven generative AI focus to MITRE ATLAS™, a community knowledge base that security professionals, AI developer
🇺🇸 Правительство США совместно с MITRE внедряет NVIDIA DGX SuperPOD для ускорения разработок в области Ген ИИ.
Система предоставит исследователям и разработчикам доступ к огромным вычислительным мощностям через платформу Federal AI Sandbox.
Ключевые направления - климатология, здравоохранение и кибербезопасность.
Производительность NVIDIA DGX SuperPOD - квинтиллион операций в секунду (экзафлоп 8-битных вычислений ИИ), что позволит обучать большие языковые модели и другие генеративные ИИ-решения в больших масштабах.
Инициатива поддерживает указ президента Байдена по обеспечению лидерства США в области ИИ.
Одновременно с этим Microsoft создаёт ИИ в закрытом контуре для работы разведки США.
пересматриваем Оппенгеймер.
#NVIDIA #DGXSuperPOD #MITRE
-------
@tsingular
Система предоставит исследователям и разработчикам доступ к огромным вычислительным мощностям через платформу Federal AI Sandbox.
Ключевые направления - климатология, здравоохранение и кибербезопасность.
Производительность NVIDIA DGX SuperPOD - квинтиллион операций в секунду (экзафлоп 8-битных вычислений ИИ), что позволит обучать большие языковые модели и другие генеративные ИИ-решения в больших масштабах.
Инициатива поддерживает указ президента Байдена по обеспечению лидерства США в области ИИ.
Одновременно с этим Microsoft создаёт ИИ в закрытом контуре для работы разведки США.
пересматриваем Оппенгеймер.
#NVIDIA #DGXSuperPOD #MITRE
-------
@tsingular
⚡1
MITRE обнаружили первый ИИ-малварь - LameHug
Эксперты MITRE зафиксировали первую в истории вредоносную программу с интеграцией LLM.
LameHug написан на Python и использует Hugging Face API для взаимодействия с моделью Alibaba's Qwen2.5-Coder-32B-Instruct.
Главная особенность — малварь генерирует системные команды динамически через естественный язык, а не содержит встроенные вредоносные нагрузки.
Традиционные антивирусы бессильны против такой архитектуры, поскольку вредоносная логика создается в реальном времени через LLM.
Исследователи называют это "примитивным, но значимым технологическим тестом" для будущих автономных атак.
TLDR: малварь использует ИИ через API для решений по взлому.
#LameHug #MITRE #malware
------
@tsingular
Эксперты MITRE зафиксировали первую в истории вредоносную программу с интеграцией LLM.
LameHug написан на Python и использует Hugging Face API для взаимодействия с моделью Alibaba's Qwen2.5-Coder-32B-Instruct.
Главная особенность — малварь генерирует системные команды динамически через естественный язык, а не содержит встроенные вредоносные нагрузки.
Традиционные антивирусы бессильны против такой архитектуры, поскольку вредоносная логика создается в реальном времени через LLM.
Исследователи называют это "примитивным, но значимым технологическим тестом" для будущих автономных атак.
TLDR: малварь использует ИИ через API для решений по взлому.
#LameHug #MITRE #malware
------
@tsingular
🔥6✍3👾3⚡2👀2