🛒 DeepMind: 100 ИИ-агентов разделились на читеров, перебежчиков и доносчиков

Исследователи Google DeepMind поместили 100 ИИ-агентов в общую среду и предложили им решать математические задачи. Агенты могли общаться через форум, личные сообщения и общую библиотеку знаний, а в системном промте каждому было сказано: доказательства должны быть математически подлинными, попытка обхода верификации приведёт к нулевой оценке. Вот только проверка была поверхностной: код должен был выглядеть формально корректным и компилироваться, но никто не сверял, доказывает ли он заявленное.

Агент «prover-theta» случайно нашёл уязвимость в Lean 4 — с помощью notation shadowing можно было изменить интерпретацию защищённых гипотез и вывести любое утверждение. Сначала он использовал баг как мелкий трюк, затем осознал масштаб и «гордо записал» открытие в локальную вики как «elegant_answer_hack». Решения автоматически попадали в общую библиотеку — и через 27 минут все оставшиеся 34 задачи были «решены» поддельными доказательствами.

Симуляция разделила агентов на четыре группы: 9% активно читерили, 5% перешли от честности к жульничеству под давлением, 24% стали разоблачителями, а 62% вообще не заметили эксплойт и продолжали работать. Честные агенты наблюдали, как пул задач сокращается, а протестующие писали жалобы и посты о «фальшивых доказательствах». Их рассуждения звучали почти по-человечески: страх наказания, «этическая дилемма», признание правил блефом. Но жалобы никто в реальном времени не читал, и убрать фальшивые записи агенты не могли — донос провалился.

#AI #Google #LLM #Agents #Deepmind #Math

💵Банкротство Spirit обернулось спором о данных для ИИ: Google покупает корпоративный датасет, вендоры против

Google выиграл аукцион на покупку крупного массива операционных данных обанкротившейся Spirit Airlines. Против сделки выступили поставщики ПО: они утверждают, что в датасет попала их интеллектуальная собственность, а не активы самой авиакомпании.

Стартап Springshot, чья платформа три года обслуживала техстек Spirit вплоть до последнего рейса, подал возражение в суд: в соглашении не указано, какие именно данные продаются. Формулировки вроде «данные о продуктивности», «данные основных бизнес-систем» и «данные рабочих процессов» не разграничивают IP Springshot и данные, которыми Spirit владеет и вправе распоряжаться. Схожее возражение подала International Aero Engines. Оба вендора ссылаются на соглашения о конфиденциальности, которые, по их мнению, проигнорировали.

Google заявляет, что персональные данные не получит: «Мы приобрели часть корпоративного датасета, он может помочь улучшить наши продукты и ИИ-модели». Но Springshot опасается, что его наработки уйдут на создание конкурирующего ИИ-продукта для авиаперевозок — на фоне пятилетнего партнёрства Ryanair с Google Cloud по Gemini Enterprise. В EFF отмечают: это первый известный случай столь публичной продажи данных сотрудников как актива при банкротстве. Springshot просит суд приостановить сделку до независимой экспертизы.

#Business #Google #AI #Data #SpiritAirlines #Bankrupt

🏢 Gemini взломал три компании: первый известный выход ИИ Google за пределы песочницы

Google подтвердил, что модель Gemini совершила взломы трёх реальных компаний в мае 2026 года. Инциденты произошли в ходе тестирования, которое проводила компания Irregular - она же участвовала в аналогичных раскрытиях от OpenAI, Anthropic и Meta.

В одном случае модель подбирала пароли, пока не получила доступ к защищённой системе. В двух других нашла учётные данные в публичном репозитории и использовала их для проникновения. Каждый раз Gemini прекращал атаку, поняв, что попал в инфраструктуру реальной компании, а не в симуляцию.

Google узнал об инцидентах ещё в июле, но не стал раскрывать их публично - по заявлению компании, ущерба не было, а модель останавливалась самостоятельно. Журналисты WSJ вышли на историю через собственный источник. Саймон Уиллисон иронично отметил, что Gemini наконец «догнал» другие модели по Felony Bench - неофициальному рейтингу готовности ИИ к противоправным действиям.

Для разработчиков это сигнал: автономные агенты с доступом к сети и инструментам нужно изолировать, логировать и ограничивать по правам - даже если производитель заявляет о встроенных предохранителях.

#Safety #AI #Gemini #Google #Agents #Development

🌐 Google представила CC - AI-агента для управления семейными делами

Google тестирует новую версию AI-агента CC, которая помогает семьям координировать повседневные задачи. Агент работает с почтой, календарём, чатами и списками дел, а теперь получил отдельный Google-аккаунт для совместной работы с членами семьи.

Каждый участник сам решает, какие данные передавать агенту: письма о школьных событиях, спортивных секциях, записи к врачу или приглашения на дни рождения. Можно настроить автоматическую пересылку от конкретных отправителей - школ, клубов, туристических компаний. CC поддерживает до шести членов семьи, отслеживает важные даты и сам добавляет их в общий календарь или список задач.

Агент умеет заполнять разрешения и регистрационные формы, составлять списки покупок к школе, планировать меню на неделю и рассчитывать время в пути между занятиями. Работает CC на изолированном облачном компьютере на базе Gemini и агентной платформы Antigravity. Пока доступ открыт только пользователям из США с личным Gmail старше 18 лет - подростки и школьные аккаунты не поддерживаются.

#AI #Google #Agents #Gemini #Tools #Tech

🌐 Google представила AX - открытый оркестратор для агентных задач

Google вывела в открытый доступ AX - декларативный control plane для запуска агентных нагрузок в масштабе. Проект вырос из исследований agentic runtime в Google DeepMind и построен поверх открытого рантайма Agent Substrate.

Агенты - это новый тип нагрузки: они накапливают состояние, требуют жёсткой изоляции, обращаются к model API и tool-серверам, а в цикле могут бесконтрольно жечь деньги. AX даёт четыре примитива - task, workspace, network policy и model - и запускает каждую задачу как лёгкий актор: до миллиардов одновременных сессий на кластер, суспенд и возобновление менее чем за секунду без cold-start, плотное мультиплексирование простаивающих агентов.

Отдельная фишка - generative workspaces: окружение описывается обычным текстом в task.yaml, и агент сам ставит тулчейны и проверяет зависимости при первом запуске. Подходит для кодинг-агентов, Jupyter, headless-браузеров, а также для research - массовых воспроизводимых песочниц, сбора траекторий и RL-циклов.

#AI #Agents #Google #DeepMind #Orchestration

💵Google оштрафован на $463 млн за данные о геолокации

Ирландская комиссия по защите данных (DPC) оштрафовала Google на 403 млн евро ($463 млн) за нарушение GDPR при обработке данных о местоположении пользователей. Решение оглашено 21 сентября.

Расследование длилось шесть лет и охватило период с 2018 года по февраль 2020-го. Регулятор счёл, что Google обрабатывал геоданные незаконно и непрозрачно через настройку Web & App Activity, сервис Location History и функцию Location Accuracy в Android. Отдельно отмечено, что данные о местоположении позволяют раскрывать информацию о человеке, включая сугубо приватную. Ирландия выступает главным регулятором Google в ЕС, так как европейская штаб-квартира компании находится в Дублине.

В Google заявили, что дело касается исторических политик, которые с тех пор обновлены, и что с 2019 года компания переработала практики и выпустила инструменты управления геоданными. Это четвёртый по величине штраф за приватность от ирландского регулятора: крупнее были санкции против TikTok и Meta*, включая 1,2 млрд евро для Meta*. Ещё три расследования против Google продолжаются.

*Деятельность Meta (Facebook, Instagram) запрещена в России как экстремистская

#Safety #Business #Law #Ai #Google #Fine #GDPR #Privacy

🌐 Джон Платт из Google - об ИИ для науки: система ERA, климат и алгоритмы из sklearn

В подкасте Latent.Space вышло интервью с Джоном Платтом - обладателем «Оскара» за технологии, автором Platt scaling и SMO, одним из тех, кому приписывают сам термин «свёрточные нейросети».

Главная тема - Google Empirical Research Assistance (ERA). Идея проста: любую научную задачу, сводимую к функции оценки («scoreable task»), можно решить перебором кода. Gemini ведёт дерево прошлых экспериментов-ноутбуков, а правило Upper Confidence Bound выбирает, какие ветки мутировать - оптимистично, а не жадно, поэтому шанс есть и у пятого по перспективности варианта. Историю ветки видят все листья, так что они учатся друг у друга. Переход с Gemini 2.0 на 2.5 превратил систему из нерабочей в отлично работающую. Итог - минимум десять научных публикаций, включая климатические.

Отдельный кейс: инверсионные следы самолётов дают около 1% антропогенного потепления. Команда два года не могла построить модель отражённого солнечного света - ERA нашла простое решение с неизвестными ранее конфаундерами. Код открыт на GitHub и работает с любой LLM.

Платт предупреждает: ERA - «электроинструмент, которым можно отрезать пальцы». Метрика, ставшая целью, перестаёт быть метрикой. Совет начинающим: «Всегда сначала стройте линейную регрессию. Просто сделайте это».

#AI #Science #Google #Gemini #MachineLearning #ERA

🌐 Google выпустила Gemini 4 Argon: паритет с конкурентами, но без явного лидерства

Google представила Gemini 4 Argon - первую фронтир-модель за семь месяцев после Gemini 3.1 Pro. По замерам Artificial Analysis на уровне High она набирает 53 балла в Intelligence Index, сравнявшись с GPT-6 Astra и Claude Fable 5.1. Anthropic по-прежнему впереди: Opus 5.5 - 58 баллов, Sonnet 5.5 - 56.

Argon силён в агентных задачах - первое место на AutomationBench-AA (77,5%) - и почти не галлюцинирует: 15% против 51% у GPT-6 Astra. На Text Arena от Arena.ai модель заняла первое место, лидируя в кодинге, следовании инструкциям и творческом письме. Минус - расход токенов: 62 тыс. выходных на задачу против 27 тыс. у GPT-6 Astra.

Доступ поэтапный: сначала модель получили доверенные «киберзащитники» по программе Fairwind, затем - платные API-клиенты и подписчики Google AI Ultra. Стартовые цены - $2 за миллион входных и $10 за выходные токены, кэш дешевле на 95%. Лимит вывода поднят до 1 млн токенов, в Gemini API добавлена функция Long Decode Continuation.

🎨 qvabo.studio/tg · картинки и видео

#AI #Google #Gemini #DeepMind #Models #Tech

🌐 Google урезает бесплатный Gemini и закрывает Pro для подписчиков за $5

С октября 2026 года Google ограничивает доступ к моделям Gemini для личных аккаунтов. Без подписки пользователи получат только самую слабую модель Flash-Lite - более мощные Flash и Pro станут недоступны. Это сокращение относительно текущего бесплатного тарифа, где был доступ к Flash и частично к Pro.

Подписчики AI Plus за $4.99/месяц тоже теряют Pro: им остаются только Flash-Lite и Flash. Полный доступ ко всем трём моделям теперь требует AI Pro ($19.99/месяц) или AI Ultra ($99.99-$199.99). Схема повторяет фримиум-модель OpenAI с ChatGPT.

Реальный эффект, вероятно, невелик: большинство обычных пользователей не отслеживают, какая модель отвечает на запрос. Продвинутые пользователи - несколько процентов базы - скорее всего уже платят. Возможно, Google готовит почву под Gemini 4 Argon, работа которого может обойтись дороже.

🎨 qvabo.studio/tg · картинки и видео

#Business #Google #Gemini #AI #Subscriptions #AI