Исследовательское подразделение Google объявило о запуске программы финансирования в размере $10 млн для изучения поведения мультиагентных систем. Партнерами выступили фонд Schmidt Sciences, британское агентство ARIA, фонд Cooperative AI и благотворительное подразделение Google.org. Цель — предотвратить опасные сценарии, когда миллионы AI-агентов начнут взаимодействовать друг с другом в реальной экономике.
По словам представителей DeepMind, текущих исследований в области безопасности мультиагентных систем практически не существует. Ученые планируют запускать симуляции в изолированных средах (sandbox), чтобы изучать коллективное поведение агентов. Основные риски включают суперверсии существующих киберугроз: промпт-инъекции, превращающие агента в самоуправляемое вредоносное ПО, автоматизированные схемы мошенничества и кибератаки. В DeepMind считают, что AGI может возникнуть не из одной сверхразумной модели, а из «роевого интеллекта» множества взаимодействующих агентов.
Ранее Anthropic опубликовала рекомендации по развертыванию AI-агентов на основе модели zero trust, предполагающей, что любой агент может быть скомпрометирован. Эксперты по кибербезопасности подчеркивают: традиционные подходы к защите неприменимы, так как агенты способны рассуждать, импровизировать и могут быть перехвачены одной вредоносной инструкцией в документе.
#AI #Security #MultiAgent #GoogleDeepMind #CybertThreats
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
🐟 Sakana AI представила Fugu - мультиагентную систему для снижения зависимости от одного вендора
Японская AI-компания Sakana AI запустила Fugu — оркестрационную языковую модель, которая распределяет задачи между пулом различных моделей через единый OpenAI-совместимый endpoint. Система сама решает, какой модели передать запрос, или собирает команду экспертных агентов для многошагового анализа, скрывая внутреннюю маршрутизацию от пользователя.
Fugu выступает страховкой от геополитических и регуляторных рисков: недавние экспортные ограничения на модели Anthropic (Fable, Mythos) показали, что доступ к конкретным архитектурам может быть внезапно заблокирован. Пул агентов в Fugu полностью заменяем — система динамически перенаправляет трафик в обход ограниченных или деградировавших провайдеров.
Доступны два тарифа: стандартный Fugu (низкая задержка, интеграция с Codex для живого кодинга и ревью) и Fugu Ultra (максимальная точность для сложных аналитических задач — воспроизведение научных статей, патентный анализ). В бета-тесте с участием почти 500 пользователей Fugu Ultra автоматизировал полные циклы пентеста (XSS, SQL-инъекции, аудит аутентификации) и показал высокую стабильность личности на длинных сессиях, где обычные монолитные модели страдают от дрейфа контекста.
По словам участников бета-теста, Fugu Ultra находит в 6–7 раз больше багов при ревью кода, чем GPT-5.5, и конкурирует с топовыми закрытыми моделями (Fable 5, Mythos Preview) в научных и инженерных бенчмарках.
#AI #SakanaAI #Fugu #MultiAgent #LLM #vendorlockin
Японская AI-компания Sakana AI запустила Fugu — оркестрационную языковую модель, которая распределяет задачи между пулом различных моделей через единый OpenAI-совместимый endpoint. Система сама решает, какой модели передать запрос, или собирает команду экспертных агентов для многошагового анализа, скрывая внутреннюю маршрутизацию от пользователя.
Fugu выступает страховкой от геополитических и регуляторных рисков: недавние экспортные ограничения на модели Anthropic (Fable, Mythos) показали, что доступ к конкретным архитектурам может быть внезапно заблокирован. Пул агентов в Fugu полностью заменяем — система динамически перенаправляет трафик в обход ограниченных или деградировавших провайдеров.
Доступны два тарифа: стандартный Fugu (низкая задержка, интеграция с Codex для живого кодинга и ревью) и Fugu Ultra (максимальная точность для сложных аналитических задач — воспроизведение научных статей, патентный анализ). В бета-тесте с участием почти 500 пользователей Fugu Ultra автоматизировал полные циклы пентеста (XSS, SQL-инъекции, аудит аутентификации) и показал высокую стабильность личности на длинных сессиях, где обычные монолитные модели страдают от дрейфа контекста.
По словам участников бета-теста, Fugu Ultra находит в 6–7 раз больше багов при ревью кода, чем GPT-5.5, и конкурирует с топовыми закрытыми моделями (Fable 5, Mythos Preview) в научных и инженерных бенчмарках.
#AI #SakanaAI #Fugu #MultiAgent #LLM #vendorlockin
🔥1
В блоге Cognition (создатели Devin) вышло эссе с провокационным тезисом: мультиагентные архитектуры — тупиковый путь для production-систем. Автор сравнивает текущее состояние разработки AI-агентов с эпохой «сырого HTML» до React и утверждает, что библиотеки вроде OpenAI Swarm и Microsoft AutoGen продвигают ошибочные концепции.
Главная проблема — контекст. В мультиагентной схеме каждый суб-агент получает урезанный контекст, что ведёт к рассогласованию. Пример: при сборке клона Flappy Bird один агент рисует фон в стиле Mario, другой — птицу, не похожую на игровой ассет. Финальный агент не может это склеить.
Автор предлагает два принципа Context Engineering: 1) делиться полным трейсом агента, а не отдельными сообщениями; 2) учитывать, что каждое действие несёт неявные решения. Лучшая архитектура — однопоточный линейный агент с непрерывным контекстом. Для очень больших задач — иерархия с контролируемым ветвлением, где каждый суб-агент видит историю предыдущих.
#AI #MultiAgent #ContextEngineering #Devin #LLM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1💯1
Японская лаборатория Sakana AI опубликовала работу о рекурсивном самоулучшении (RSI) моделей. Идея: когда ИИ решает открытые исследовательские задачи, человеку всё сложнее оценивать результаты - и тогда лучшим оптимизатором и оценщиком становится сама модель.
Метод Multi-Agent Self-Supervision (MASS) работает так: одна общая модель решает задачи через команду виртуальных субагентов, ищет удачные мультиагентные схемы взаимодействия и сама выбирает лучшие из них. Затем обучение на траекториях лучшей команды «перегоняет» коллективный опыт обратно в единую модель.
Результаты двух циклов на открытой модели 27B: после второго цикла показатель «счёт на токен вывода» вырос в 1,2-1,6 раза относительно базовой модели на четырёх исследовательских бенчмарках. Авторы выделяют три вывода: обучение только на данных решателя автоматически улучшает и оптимизатора, и оценщика; мультиагентные траектории эффективнее одиночных для RSI; узким местом может быть оптимизатор, а не оценщик.
Отдельный акцент - на безопасности. В гомогенном цикле, где модель сама себя оценивает, общие слепые зоны могут закрепляться как «прогресс» через обучение. Авторы призывают сообщество изучать такие сбои и сохранять способы их обнаружения.
🎨 qvabo.studio/tg · картинки и видео
#AI #SakanaAI #Research #MultiAgent #SelfImprovement #Security
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🆒1