🦾 NIST предлагает базовый бенчмарк для оценки человекоподобных роботов

Национальный институт стандартов и технологий США (NIST) выступил с инициативой создания единого базового стандарта производительности для человекоподобных роботов (humanoid robots). Предложенный бенчмарк призван унифицировать методики тестирования и сравнения антропоморфных машин, что критически важно для их безопасного внедрения в промышленность и сервисные сектора.

Стандарт включает набор контрольных испытаний, оценивающих ключевые параметры: устойчивость при ходьбе, точность манипуляций, энергоэффективность и время автономной работы. NIST подчёркивает, что без единой метрики невозможно объективно сравнивать разработки разных компаний — от Tesla Optimus до Figure 02. Бенчмарк также учитывает сценарии взаимодействия человека и робота, включая безопасные остановки и реакцию на внештатные ситуации.

Для разработчиков это означает появление чётких критериев, которым должны соответствовать коммерческие гуманоиды. Ожидается, что стандарт ускорит сертификацию роботов для работы на заводах и складах, а также снизит регуляторные барьеры. NIST планирует открыть публичное обсуждение документа до конца 2026 года.

#Tech #AI #NIST #HumanoidRobots #Robotics #Standarts #Benchmark

🔋 Информация как поверхность атаки: ловушки для AI-агентов

AI-агенты выходят за рамки простых ответов на вопросы — они автономно просматривают веб-сайты, читают электронные письма, ищут файлы и взаимодействуют с инструментами. Проблема не в том, что модель ошибается, а в том, что вредоносная информация может заставить агента действовать вопреки интересам пользователя.

Учёные из Google DeepMind классифицировали шесть типов «ловушек» для AI-агентов: инъекция контента, семантическая манипуляция, когнитивное состояние, контроль поведения, системные ловушки и ловушки с участием человека. В тестах NIST вредоносные инструкции срабатывали в среднем в 57% случаев при попытке перехвата агента.

Инъекция контента использует разницу между тем, что видит человек и что парсит агент. Скрытый текст, метаданные или код на странице могут содержать инструкции для AI. Семантическая манипуляция воздействует через повторение, эмоциональную окраску и ложное чувство авторитета — агент сам приходит к «нужному» выводу. Когнитивные ловушки отравляют память агента: в экспериментах USENIX пять специально составленных текстов на целевой вопрос заставляли RAG-систему выдавать ответ атакующего в 90% случаев.

Контроль поведения превращает интерпретацию в действие — отправку данных, одобрение транзакции или выполнение кода. Ключевая защита — минимальные права доступа для агента.

#AI #Security #Agents #CyberThreats #DeepMind #NIST