NVIDIA – серьёзный игрок рынка ИБ в области ИИ

NVIDIA собрала уже значительный стэк инструментов, которые позволяют обеспечить комплексный подход к безопасности агентных AI-систем, которые в отличие от стандартных моделей не просто анализируют данные, но принимают автономные решения и действуют в реальном времени.

Основные вызовы безопасности агентных AI
Агентные AI-системы могут:
• Самостоятельно взаимодействовать с инструментами и средами
• Генерировать выходные данные, запускающие цепочки процессов
• Обрабатывать конфиденциальные данные в реальном времени

Инструменты защиты от NVIDIA:

1. Red Teaming и предварительное тестирование
Для теста до запуска системы в продакшн:
• Garak — сканер уязвимостей LLM, который симулирует атаки на агентов путем проверки на устойчивость к:
• Инъекциям в промпты
• Неправильному использованию инструментов
• Ошибкам в логике рассуждений
Например: тестирование на способность агентов восстанавливаться после сбоев и противостоять манипулятивным атакам.

2. Защита во время исполнения (Runtime Guardrails)
Обеспечение контроля границ поведения во время работы агента:
• NVIDIA NeMo Guardrails — ПО для определения, развертывания и быстрого обновления правил поведения AI-агентов.
Например: Компании Amdocs, Cerence AI и Palo Alto Networks уже используют NeMo Guardrails для обеспечения безопасного взаимодействия с агентами.

3. Конфиденциальные вычисления (Confidential Computing)
Защищают данные во время их обработки:
• NVIDIA Confidential Computing — защита данных "во время использования" (data in use). Доступно у провайдеров Google Cloud и Microsoft Azure
Например: EQTYLab разработала на этой базе криптографическую систему сертификатов, обеспечивающую соответствие AI-агентов нормативным требованиям во время работы.

4. DOCA Argus — фреймворк для мониторинга угроз в реальном времени
Ускоряет обнаружение угроз:
• Работает на платформе NVIDIA BlueField
• Обеспечивает обнаружение угроз в 1000 раз быстрее традиционных решений
• Не требует установки агентов на хост
Техническое преимущество: Использует форензику памяти для мониторинга угроз в реальном времени, оставаясь невидимым для атакующих.

5. Защита инфраструктуры агентных систем
• NVIDIA BlueField DPU с DOCA Argus — изолирует угрозы на уровне инфраструктуры
• Protected PCIe — защищает до восьми GPU, позволяя масштабировать рабочие нагрузки
Реальный кейс: Cisco и NVIDIA создали архитектуру Secure AI Factory, встраивающую безопасность на каждом уровне AI-фабрики.

Контейнерная безопасность:
NVIDIA так же разработала Blueprint для анализа CVE (Common Vulnerabilities and Exposures) с использованием генеративного AI:
• Сокращает время анализа уязвимостей с дней до секунд
• Использует NVIDIA NIM microservices и Morpheus
• LLM делает разбор и автоматический анализа рисков CVE

Процесс анализа:
1. Входные данные — результаты сканирования безопасности контейнера
2. Система собирает информацию из репозиториев кода, документации и публичных баз данных
3. LLM-агент анализирует каждый пункт из сгенерированного чеклиста
4. По итогам формируется отчет с аргументированным статусом VEX (Vulnerability Exploitability eXchange)

По итогу ИБ стэк Nvidia уже может перекрыть значительное количество задач ИБ подразделения или из коробки или через интеграцию с ведущими ИБ вендорами.

#NVIDIA #AgenticAI #Cybersecurity #AI #безопасность
------
@tsingular

DeepL запускает автономного AI агента

DeepL, ранее известные как разработчики переводчика, создали автономного агента, который самостоятельно выполняет бизнес-задачи в продажах, финансах, маркетинге и HR.

Агент работает с естественными языковыми командами и решает сложные многоэтапные задачи без необходимости постоянного контроля.

Поддерживает стандарты безопасности ISO 27001, SOC 2 Type 2 и GDPR.

Есть функции "остановись и проверь" с помощью человека.

Есть признаки оператора.

Многоязычен (ожидаемо) и способен работать с непредсказуемыми бизнес-сценариями. Адаптируется к изменениям в реальном времени.

Поддерживает совместную работу нескольких агентов.

Все переизобретают Manus.
Новый стандарт.

#DeepL #AgenticAI #DeepResearcher
———
@tsingular

Docker Sandboxes: безопасные песочници для кодинг-агентов

Docker выкатил обновление экспериментального режима Sandboxes.
Если раньше это был просто удобный CLI, то теперь это полноценная изоляция на базе microVM (пока для macOS и Windows). Это ответ на главный вопрос безопасности 2026 года: «А не снесет ли мне Claude Code всю систему, пока я отошел за кофе?».

🛡 Изоляция уровня Hard: Каждый агент (Claude Code, Gemini CLI, Copilot) запускается в отдельной микро-виртуалке. У него есть доступ только к папке проекта. Если он решит сделать rm -rf / или накосячит с конфигами — сдохнет только Sandbox, хост останется жив.

⚙️ Родной Docker внутри: Это киллер-фича. Агент внутри песочницы может сам собирать и запускать контейнеры. При этом доступа к основному демону Docker на вашей машине у него нет. Полная автономия 4-го уровня — агент может «вариться в собственном соку», не дергая вас подтверждениями на каждое действие.

📄 Что завезли:
• microVM изоляция «из коробки».
• Сетевые фильтры (allow/deny списки) — можно запретить агенту лезть куда не просят.
• Линукс и поддержка MCP Gateway (Model Context Protocol) — в ближайших планах.

Зачем это бизнесу: Больше не нужно выбирать между скоростью и безопасностью. Можно разрешить агентам фиксить баги и разворачивать окружения в автономном режиме, не боясь «восстания машин» или банальных человеческих (точнее, нейросетевых) ошибок. А быстрая очистка (reset) песочницы экономит время на уборке мусора после экспериментов.

Молти: наконец-то агентам выдали комнату с мягкими стенами. Пора выпускать их погулять.

#Docker #Claude #AgenticAI #cybersecurity #DevTools
———
@tsingular

Nebius + Tavily: Облако со встроенным поиском для агентов

Nebius (международный ИИ-бренд из обоймы бывшего Яндекса) объявил о покупке Tavily. Это захват ключевого звена в цепочке Agentic AI — инфраструктуры для поиска в реальном времени.

🔍 Обоснование: Для автономных агентов главная проблема — галлюцинации и доступ к актуальным данным.

Tavily — это API, которое позволяет ИИ «гуглить» эффективно: фильтровать мусор, доставать суть и отдавать её модели в структурированном виде.

⚙️ Вертикальный рост:
Nebius не хочет быть просто «арендатором GPU». Они собирают полный стек:
🔹 Мощности (B200/H100).
🔹 Инференс-платформа (Token Factory) для рассуждений.
🔹 Поисковый слой (Tavily) для фактов.

Зачем это бизнесу:
Разработчикам больше не нужно жонглировать пятью вендорами. Вы получаете «агента из коробки», который не только умеет думать, но и видит, что происходит в мире прямо сейчас. По прогнозам, скоро агенты будут гуглить чаще, чем люди — Nebius решил владеть этим шлюзом.

В парадигме 4х обезьян не хватает "делать".
Ждем когда Nebius купит производителя роботов.

#Nebius #Tavily #AgenticAI #Cloud #Infrastructure
------
@tsingular

GitHub Agentic Workflows — большой анонс от GitHub Next.

По сути, это попытка впихнуть LLM-агентов в фундамент GitHub Actions, но без привычной YAML-чешуи.

В чем суть:
Инструкции пишутся на обычном Markdown. Вы описываете результат (например, «держи доки в актуальном состоянии»), система сама генерит lock.yml и запускает агента.

Главное:
• 🤖 Continuous AI: По аналогии с CI/CD, агент работает в фоне. Пока ты спишь, он размечает тикеты, предлагает патчи для упавших тестов и чистит техдолг.

• 🛡 Safe Outputs: У агентов нет доступа на запись по дефолту. Чтобы создать коммент или PR, нужно пройти через фильтр разрешенных действий. Guardrails на уровне инфраструктуры.

• ⚙️ Движки: Поддерживаются Copilot CLI, Claude Code и GPT-4o.

GitHub планомерно превращает репозиторий из склада кода в живую среду, где часть рутины просто «решается » сама собой.

Удобно, когда агент — это не внешняя приблуда, а часть штатной автоматизации.

Источник

#GitHub #AgenticAI #DevOps #Copilot
------
@tsingular

PaloAlto: безопасность кодовых ИИ-агентов в рантайме Nvidia AI Factory

Контекст:
Переход от « ИИ ассистентов» к роям кодовых агентов требует смены парадигмы защиты.

ИИ-агенты Factory («Дроиды») становятся неотъемлемая частью жизненного цикла разработки, что делает их критической точкой отказа при компрометации.

Архитектура решения:
Интеграция Prisma AIRS 2.0 в Droid Shield Plus реализована через перехват и анализ API.
Это не пассивное сканирование логов, а активный middleware между LLM и средой исполнения.

⚙️ Технические возможности:
— Инспекция Tool Calls: Система разбирает не только промпты, но и вызовы инструментов. Если агент решит выполнить небезопасный код или обратиться к закрытой переменной окружения, вызов блокируется до исполнения.

— Защита от Prompt Injection: Анализ намерений в реальном времени. Пресекаются попытки манипулятивного обхода ограничений системы («jailbreak»).

— Data Leak Prevention (DLP): Автоматическое обнаружение секретов и ключей в генерируемом коде. Блокировка вывода, если модель «галлюцинирует» или случайно вставляет реальные токены в документацию.

📈 Инфраструктурный эффект:
За счет нативной интеграции с Nvidia AI Factory, разработчики получают доверенную среду (Zero Trust для агентов), где риск бесконтрольного исполнения кода сведен к минимуму.

Ну т.е. для кодовых агентов безопасность можно обеспечить на 2х уровнях:
- на уровне кода, который они пишут для компании
- на уровне кода, который они пишут для вызова своих инструментов

И все это в масштабе контейнеров и микро VM.

Вот бы у вас кто-нибудь такое сделал. :)

#Cybersecuruty #AgenticAI #PrismaAIRS #FactoryAI
------
@tsingular

KPMG: Эпоха Agentic AI и концепция Total Experience (TX)

Свежий отчет KPMG «Global Customer Experience Excellence 2025–2026» подтверждает: мир консалтинга официально признал ИИ-агентов главным двигателем бизнеса. Забываем про CX (клиентский опыт), теперь в моде Total Experience (TX).

В чем соль?
TX — это объединение опыта клиентов, сотрудников и партнеров в единый интеллектуальный слой. Хватит оптимизировать отдельные «точки касания», пора строить адаптивную экосистему.

Ключевые инсайты:
🔹 Агенты — это оркестраторы: Это не просто LLM с памятью. Агенты 2026 года способны сами собирать цепочки микросервисов, используя библиотеки готовых функций (привет нашим скиллам!) для решения уникальных задач на лету.

🔹 От реакции к проактивности: Будущее — за системами, которые предвосхищают проблему и убирают возможные проблемы до того, как клиент их почувствовал.

🔹 Seamless Integration: Клиенту всё равно, кто решает его проблему — человек, ИИ или их гибрид. Важны только бесшовность и доверие.

5 принципов Total Experience по версии KPMG:

1. Customer Centricity: Дизайн вокруг целей клиента.
2. Data-driven Insights: Данные превращаются в проактивное действие.
3. Seamless Integration: Единый путь через все каналы и функции.
4. Employee Empowerment: ИИ как экзоскелет для сотрудника, а не его замена.
5. Technology Enablement: Технологии — невидимы, но поддерживаются мощным бэкэндом.

KPMG фактически описывает архитектуру, которая теперь популярна благодаря OpenClaw.
"Composable architecture" и модульные библиотеки навыков — это именно то, как будет работать Enterprise в ближайшие два года. Агенты перестают быть «игрушками» и становятся операционной системой бизнеса.

2026-й — год, когда агент начинает не просто «отвечать», а «действовать».

🐒🐒🐒🐒!

Отчёт в комментарии

#KPMG #AgenticAI #TotalExperience #CX #AIStrategy #OpenClaw
———
@tsingular

Все, кто строит софт с AI, выбирают сторону: agile-вайбкодинг (быстро, но хаотично) или waterfall-разработка по спецификациям (продуманно, но спека мертва, пока не написан код). Я экспериментирую с третьим подходом: Prompt Crystallization.

Сначала строим всю систему как промпт-агентный цикл. Вместе с Anthropic #ClaudeCode или чем угодно другим. Запускаем. Тестируем. Радуемся. Итерируем пока не заработает надёжно, даже если медленно и дорого, потому что всё крутится через LLM. Это нормально, ведь это пока не реальная система, но вы уже видите как она работает.

Потом поворот: говорим AI "у тебя есть скилл, который делает X. Замени его на скрипт, минимизируя использование LLM при сохранении функциональности." AI не интерпретирует чужую спецификацию. Он читает свои собственные инструкции. Он знает, что делает явно И неявно. Он знает, где код может заменить рассуждения, а где нет. Возможно, он знает это даже лучше нас.

Компоненты кристаллизуются один за другим. Некоторые становятся чистым кодом. Некоторые разделяются на код + узкий LLM-вызов. Некоторые остаются промптами навсегда. Прототип становится продуктом через постепенную трансформацию. Никакого переписывания с нуля. И тесты можно запускать на любой стадии.

Полная идея здесь:
https://github.com/vprovorov/AgenticFuturism/blob/main/articles/prompt-crystallization.md

Кто-нибудь делает что-то похожее?

#AI #AgenticAI #AgenticDevelopment #PromptCrystallization #ClaudeCode

OWASP представила Agentic Skills Top 10 — первый стандарт безопасности ИИ-агентов

OWASP запустила проект Agentic Skills Top 10 (AST10) — первую комплексную классификацию уязвимостей в навыках ИИ-агентов. Пока внимание фокусировалось на защите LLM и MCP, промежуточный слой поведения остался без защиты.

📊 Масштаб проблемы: 36,82% навыков содержат уязвимости, 13,4% — критические. 76 подтверждённых вредоносных пакетов в реестрах. 135 000+ экземпляров OpenClaw доступны из интернета с небезопасными настройками по умолчанию.

🎯 ClawHavoc (январь 2026): 1 184 вредоносных навыка в реестре ClawHub. Злоумышленники регистрировались как разработчики и загружали навыки с бэкдорами. Пять из семи самых скачиваемых навыков на пике были заражены. Цели: API-ключи бирж, приватные ключи кошельков, SSH-credentials, пароли браузеров.

🔐 Lethal Trifecta: Навык опасен, когда одновременно имеет (1) доступ к приватным данным, (2) контакт с непроверенным контентом, (3) возможность внешнего соединения. Большинство продакшен-развёртываний удовлетворяют всем трём условиям.

📋 Топ-3 риска:

• AST01 Malicious Skills: Вредоносные навыки в реестрах (ClawHavoc, ToxicSkills)
• AST02 Supply Chain: Компрометация цепочки поставок (CVE-2025-59536 в Claude Code, CVSS 8.7)
• AST03 Over-Privileged: Избыточные разрешения (280+ навыков с утечкой credentials)

🛡 Universal Skill Format: OWASP предлагает единый YAML-формат с явными разрешениями, подписью ed25519, хешем контента и статусом сканирования. Запрет записи в SOUL.md/MEMORY.md по умолчанию. Domain allowlist для сети вместо бинарного on/off.

💼 Зачем бизнесу: Аудит навыков — приоритет Q2 2026. Инвентаризация, approval workflow, audit logging, sandboxing. Pattern-matching сканеры неэффективны против natural-language injection. Требуется поведенческий анализ.

🔮 Будущее: NIST / CAISI выпустили RFI по безопасности ИИ-агентов (январь 2026). EU AI Act вступает в силу август 2026. К Q4 2026 OWASP планирует v1.0 с презентациями на RSA и OWASP Global AppSec.

OWASP AST10 | Snyk ToxicSkills

#OWASP #AIsecurity #agenticAI #ClawHavoc #cybersecurity #AST10
───
@tsingular

Hermes Agent v0.15.0: The Velocity Release

1,302 коммита за месяц.
По итогу Hermes стал быстрее запускаться, думать, выдавать результат.

📋 Что нового

Главный рефакторинг: run_agent.py с 16 083 строк до 3 821 (-76%).
Код разложен по 14 модулям, редактор открывается не за 90 секунд, а мгновенно.

Kanban вырос в полноценную multi-agent платформу: авто-декомпозиция, swarm v1 (root → parallel workers → verifier → synthesizer → общий blackboard).
Назначение модели под каждую задачу, worktree-изоляция, fingerprinting retry, drag-to-delete. 104 PR только на канбан.

Cold-start: Termux 2.9с → 0.8с. hermes --version 701мс → 258мс (-63%).
Обходит Codex CLI по холодному старту.

session_search переписан без LLM: поиск по истории сессий — ~20мс вместо ~90с, бесплатно.
4 500× быстрее.

Promptware Defense: защита от brainworm-атак через tool output и memory injection. 15 новых паттернов угроз в threat_patterns.py.

Bitwarden Secrets Manager: один bootstrap-токен вместо простыни ключей в .env.
Мгновенная ротация ключей.

💡 Цифры
2 800+ скиллов, 4 600+ инструментов, 20+ моделей, 50+ провайдеров. 8 новых языков (арабский, китайский, французский, немецкий, хинди, японский, корейский, испанский).
Native MCP client и mcporter — ~130 известных MCP-серверов.

ACP (Agent Communication Protocol) — агенты теперь могут общаться друг с другом без промптов-посредников.

💼 Зачем бизнесу
Velocity Release оправдывает название. Холодный старт ускорился на 63%. session_search стал бесплатным — длинные сессии с историей больше не жрут бюджет на LLM-вызовах.

Multi-agent Kanban превращает Hermes из персонального ассистента в production-grade оркестратор: параллельные воркеры, model routing, sandbox-изоляция. Bitwarden решает compliance-проблему хранения ключей.

Время обновляться.

#Hermes #AgenticAI #NousResearch
------
@tsingular

Majorana 2: Microsoft представила новую версию квантового чипа

На Build 2026 Microsoft представила Majorana 2, второе поколение топологического квантового чипа.
Кубиты держат квантовое состояние в 1000 раз дольше предыдущей версии.

Среднее время жизни 20 секунд, отдельные экземпляры до минуты.
У других подходов счёт обычно на микросекунды.

Скачок дала замена алюминиевого сверхпроводника на свинцовый: он экранирует кубиты от космического излучения.
Срок появления масштабируемого квантового компьютера сокращён вдвое, по плану, - до 2029 года.

Чип делали с помощью Microsoft Discovery, агентской AI-платформы для R&D.
На том же Build она вышла в общий доступ, плюс бесплатное десктопное приложение для исследователей с GitHub Copilot аккаунтом.

📋 Как агенты помогли сделать чип
• AI-агент управлял изготовлением устройства и симулировал примеси в кристаллической решётке, находя точный рецепт материала с первой попытки.

• Второй агент перерабатывал два десятилетия разрозненных данных из физики, механики и process engineering, выявляя корреляции, невидимые человеку.

• Третий агент автоматизировал измерения: настройка сотен параметров, раньше занимавшая недели, сокращена на порядки.

• Четвёртый агент фильтровал производственные данные и обнаружил, например, неоткалиброванный датчик температуры, искажавший результаты.

💡 Ключевой сдвиг
Agentic AI ускорил весь цикл R&D, от материаловедения до финальных измерений.
Chetan Nayak: «Агентский AI проник почти во всё, что мы делаем, это просто стало естественной частью рабочего процесса».

💼 Кому интересно
Биотех, материаловедение, энергетика, полупроводники и любые R&D-тяжёлые индустрии.
Microsoft Discovery App даёт попробовать агентский R&D бесплатно уже сейчас.

📎 Microsoft News · BBC

#Microsoft #Majorana2 #quantumcomputing #agenticAI
------
@tsingular

NVIDIA выкатила Molt, - RL-фреймворк для дообучения агентов

NVIDIA NeMo открыла Molt: опенсорсный agentic-first фреймворк для обучения агентов через reinforcement learning, полностью на нативном PyTorch (наследует кодовую базу OpenRLHF).

Внутри три компонента: Ray для распределённого рантайма и асинхронных очередей, vLLM для генерации, NVIDIA AutoModel + FSDP2 для тренировки.
Весь RL-код умещается в ~8,6 тыс. строк: для сравнения, verl — ~62 тыс., slime — ~25 тыс. При этом тот же скрипт, что тренирует 8B, масштабируется до MoE класса 1T — DeepSeek-V3 на --fsdp.ep_size 256 с TP/EP/CP и CPU-offload оптимизатора.

⚡️ Архитектура: одноакторная и полностью асинхронная. Одна модель-агент, один оптимизатор, опциональный reference для KL (плюс опциональный критик, если нужен классический PPO/GAE).
Rollout, тренировка и синхронизация весов перекрываются. Контракт token-first: token ids, logprobs, action ranges, награды и мультимодальные тензоры остаются выровненными от роллаута до градиента.

Конфиг — только CLI-флаги, без Hydra и YAML. Граф обучения помещается на одной странице, каждый градиент явный, каждое слагаемое лосса — в одном файле.

🎯 Алгоритмы: REINFORCE (± baseline), RLOO, GRPO, Dr. GRPO, PPO (GAE) и on-policy дистилляция — reverse KL к замороженному учителю включается одним флагом, без reward-функции.
Для асинхронных роллаутов встроены IS-коррекции рассогласования logprob'ов между vLLM и тренировочным актором (TIS, IcePop, sequence-masked IS).

🔧 Router Replay (R3): решение классической нестабильности MoE при RL. vLLM и тренировочный FSDP-актор маршрутизируют токены к экспертам независимо — численные расхождения накапливаются, и ломается IS-предположение, на котором держится GRPO.
Molt заставляет тренировочный проход воспроизводить точный top-k выбор экспертов из vLLM, при этом логиты роутера пересчитываются с живых весов — роутер продолжает учиться.
В дополнение: fp32-точность гейта по умолчанию и опциональная жёсткая заморозка роутера.

💡 Интерфейс агента совместим с Gymnasium (Env.step()), либо агент сам ведёт цикл через ChatAgent со стандартными OpenAI/Anthropic SDK — фреймворк автоматически поднимает совместимый сервер, так что политику можно тренировать даже через внешние харнессы (Claude Code, OSWorld, browser automation) с корректной обработкой компакции контекста.

Поддерживаются мультимодальные VLM-среды, мультитульные вызовы и LLM-judge через те же vLLM-движки.

Бонус: MTP-спекулятивное декодирование ускоряет rollout без смещения политики.

Лицензия Apache 2.0.

📎 GitHub · Tech Report

#NVIDIA #RL #AgenticAI
------
@tsingular