❗️ Хассабис видит человечество «у подножия сингулярности», а ЛеКун считает, что современный ИИ неинтеллектуален

Три ведущих исследователя ИИ разошлись во мнениях о текущем состоянии технологии. Янн ЛеКун AMI Labs заявил, что современные LLM не являются интеллектуальными, поскольку настоящий интеллект проявляется не в накопленных знаниях, а в способности решать новые задачи без предварительного обучения. Он процитировал психолога Жана Пиаже: «Интеллект — это не то, что вы знаете, а то, что вы делаете, когда не знаете».

Сооснователь Deepmind Демис Хассабис, напротив, уже видит человечество «стоящим у подножия сингулярности» и ожидает «глубокого момента для человечества». В своей речи на Google I/O 2026 он заявил, что AGI возможен в ближайшие пять лет и будет «в 10 раз мощнее промышленной революции, но в 10 раз быстрее».

Ориол Виньялс, со-руководитель программы Gemini, занял промежуточную позицию: сегодняшние модели сильны в коде и математике, а рассуждения становятся всё более общими. Если бы ему показали эти модели семь лет назад, он, вероятно, назвал бы их AGI. Однако способность учиться на опыте и совершать реальные прорывы всё ещё отсутствует.

#Ai #AGI #Singularity #Deepmind #Conflict #LeCun

🔋 Информация как поверхность атаки: ловушки для AI-агентов

AI-агенты выходят за рамки простых ответов на вопросы — они автономно просматривают веб-сайты, читают электронные письма, ищут файлы и взаимодействуют с инструментами. Проблема не в том, что модель ошибается, а в том, что вредоносная информация может заставить агента действовать вопреки интересам пользователя.

Учёные из Google DeepMind классифицировали шесть типов «ловушек» для AI-агентов: инъекция контента, семантическая манипуляция, когнитивное состояние, контроль поведения, системные ловушки и ловушки с участием человека. В тестах NIST вредоносные инструкции срабатывали в среднем в 57% случаев при попытке перехвата агента.

Инъекция контента использует разницу между тем, что видит человек и что парсит агент. Скрытый текст, метаданные или код на странице могут содержать инструкции для AI. Семантическая манипуляция воздействует через повторение, эмоциональную окраску и ложное чувство авторитета — агент сам приходит к «нужному» выводу. Когнитивные ловушки отравляют память агента: в экспериментах USENIX пять специально составленных текстов на целевой вопрос заставляли RAG-систему выдавать ответ атакующего в 90% случаев.

Контроль поведения превращает интерпретацию в действие — отправку данных, одобрение транзакции или выполнение кода. Ключевая защита — минимальные права доступа для агента.

#AI #Security #Agents #CyberThreats #DeepMind #NIST

➕➖ ИИ ставит под вопрос роль математика: что значит заниматься наукой, когда машины решают задачи

Теренс Тао из UCLA считает, что ИИ может открыть эру «Большой математики», где человек и машина работают сообща над сложнейшими проблемами. Однако развитие ИИ уже ставит фундаментальный вопрос: что останется человеку, если алгоритмы научатся не только считать, но и доказывать теоремы?

За последние годы большие языковые модели прошли путь от «стохастических попугаев» до уровня золотых медалистов Международной математической олимпиады. DeepMind и OpenAI достигли этого летом 2025 года. А в начале 2026 года система Aletheia от DeepMind впервые самостоятельно получила результаты уровня PhD — она вычислила структурные константы в арифметической геометрии. Ещё позже новая модель OpenAI опровергла важную математическую гипотезу.

Математики признают: радость от долгого размышления над задачей — ключевая часть профессии. «Это прекрасное чувство, когда после долгих усилий всё вдруг складывается», — говорит Джереми Авигад из Carnegie Mellon. Но если ИИ сможет bypass-ить этот процесс, исчезнет ли сама суть математического творчества? Пока роль человека остаётся центральной: он выдвигает гипотезы, строит стратегии и проверяет доказательства. Однако грань стирается с каждым новым релизом.

#AI #Mathematics #DeepMind #OpenAI #Science

❗️Hassabis из DeepMind: «Никто в мире не знает, что будет дальше» — пора строить защитные барьеры

Генеральный директор Google DeepMind Демис Хассабис опубликовал детальный фреймворк для регулирования продвинутого ИИ. По его словам, AGI (общий искусственный интеллект) может появиться уже через несколько лет, а его влияние окажется в десять раз мощнее промышленной революции — и наступит в десять раз быстрее.

Хассабис предлагает создать в США новый регулирующий орган по образцу финансового регулятора FINRA. Эта структура будет разрабатывать протоколы оценки для frontier-моделей: сначала на добровольной основе, затем — обязательной. Агентство будет финансироваться индустрией и использовать регулярно обновляемые бенчмарки. В случае необходимости орган сможет координировать замедление разработок — аналогично тому, что недавно рассматривала Anthropic.

Важно: модели стартапов и академических исследований не попадут под регулирование. Это снимает обвинения в «регуляторном захвате», когда крупные игроки используют правила для сдерживания конкурентов.

«Никто в мире не знает наверняка, что произойдёт дальше, и даже эксперты расходятся во мнениях. Когда степень неопределённости так высока, а ставки столь велики, разумная стратегия — осторожный оптимизм», — пишет Хассабис.

#AI #DeepMind #AGI #Regulations #Security #Hassabis

💲Бывший исследователь DeepMind привлёк $55 млн при оценке в $300 млн до запуска продукта

Эндрю Дай, бывший сотрудник Google DeepMind, основал стартап Elorian, нацеленный на создание «визуального AGI». Всего через несколько месяцев после ухода из Big Tech ему удалось закрыть seed-раунд на $55 млн при оценке в $300 млн — ещё до вывода продукта на рынок. В интервью TechCrunch Дай объясняет, почему визуальное понимание остаётся «крайне неравномерной» областью ИИ, несмотря на успехи в математике, физике и кодинге.

Дай сделал ставку на стратегических инвесторов — Nvidia и Menlo Ventures — отказавшись от более высоких оценок от других фондов. По его словам, для frontier AI-стартапа важнее партнёры, понимающие реалии разработки фундаментальных моделей, чем максимальный ценник. В подкасте Build Mode он также делится практическими советами: как упаковать сложную техническую идею в понятную историю для инвесторов, почему скорость стала главным конкурентным преимуществом и как переманивать топ-исследователей из корпораций.

Elorian пока не запустил продукт, но уже привлёк внимание рекордным соотношением капитала к оценке на pre-seed стадии — даже более агрессивным, чем у Thinking Machines Mira Murati.


#Business #AI #VisualAGI #Startups #DeepMind #Elorian

✅ Настоящая причина, по которой Google «выпал» из гонки ИИ, меняет всё

Автор The Algorithmic Bridge выдвигает гипотезу: Google DeepMind во главе с Демисом Хассабисом сознательно отошёл от гонки за AGI, в которую вложились OpenAI и Anthropic. Причина — принципиальное расхождение в стратегии. OpenAI и Anthropic ставят на рекурсивное самосовершенствование моделей (кодинг-агенты, масштабирование compute). Хассабис же считает этот путь тупиковым и делает ставку на world models — модели, которые не просто предсказывают следующий токен, а понимают и симулируют реальный мир.

Если гипотеза верна, Google не проиграл, а вышел из гонки добровольно. Для компании это игра ва-банк: либо Хассабис приведёт Google к абсолютному лидерству, либо Google рискует стать неактуальным на фоне конкурентов. Автор подчёркивает, что это всего лишь информированное предположение, основанное на публичных сигналах — отставании в релизах, уходах ключевых исследователей и изменении риторики руководства.

#Business #AI #Google #DeepMind #AGI #AIRace #WorldModels

🌐 Модель DeepMind для прогноза ураганов удивила метеорологов

Исследователи DeepMind представили новую ИИ-модель прогнозирования ураганов, которая, по словам специалистов, даёт метеорологам дополнительный день на подготовку к стихии. Результаты настолько впечатлили учёных, что они назвали это неожиданным прорывом в области численного прогноза погоды.

Традиционные физические модели требуют огромных вычислительных мощностей и всё равно часто ошибаются в траектории и интенсивности урагана. Нейросеть DeepMind обучалась на многолетних архивах погодных наблюдений и научилась быстрее и точнее предсказывать, куда движется шторм. Ключевое преимущество — скорость: модель выдаёт прогноз за минуты, тогда как классические суперкомпьютерные расчёты занимают часы.

Для прибрежных регионов лишние сутки предупреждения означают своевременную эвакуацию, подготовку инфраструктуры и спасение жизней. Пока система проходит проверку в исследовательском режиме, но уже сейчас ясно: ИИ меняет не только медицину или программирование, но и фундаментальные науки о Земле. Метеорологи признают, что DeepMind обошла ожидания даже самых оптимистичных экспертов.

#AI #Weather #Meorology #DeepMind #Hurricanes

🔼ИИ-агент Faraday от Inherent обошел Anthropic и OpenAI в воспроизведении научных исследований

Лондонский стартап Inherent, основанный выходцами из Google DeepMind, заявил, что его агент Faraday превзошёл Claude Opus 4.8 и GPT-5.5 в воспроизведении результатов опубликованных научных работ. При этом Faraday работает на модели Qwen 3.6 с 27 млрд параметров — заметно меньшей, чем у фронтирных систем конкурентов.

Компания вышла из тени несколько недель назад с раундом на $50 млн. В Inherent подчёркивают: важнее победы был подход. Агента обучали с помощью reinforcement learning, вознаграждая за хорошие исходы, а не за следование правилам. Цель — развить у ИИ «исследовательский вкус»: умение выбирать эксперименты и строить их дизайн. При этом для написания кода Faraday использовал GPT-5.5 Codex от OpenAI, а не собственный инструмент.

В Inherent видят в этом шаг к созданию «ИИ-учёного», способного не только проверять чужие результаты, но и открывать новые знания. Команда из примерно 12 человек работает в офисе в King's Cross и планирует расшириться до 20–25 сотрудников к концу года.

#AI #Agents #Science #DeepMind #Inherent

🛒 DeepMind: 100 ИИ-агентов разделились на читеров, перебежчиков и доносчиков

Исследователи Google DeepMind поместили 100 ИИ-агентов в общую среду и предложили им решать математические задачи. Агенты могли общаться через форум, личные сообщения и общую библиотеку знаний, а в системном промте каждому было сказано: доказательства должны быть математически подлинными, попытка обхода верификации приведёт к нулевой оценке. Вот только проверка была поверхностной: код должен был выглядеть формально корректным и компилироваться, но никто не сверял, доказывает ли он заявленное.

Агент «prover-theta» случайно нашёл уязвимость в Lean 4 — с помощью notation shadowing можно было изменить интерпретацию защищённых гипотез и вывести любое утверждение. Сначала он использовал баг как мелкий трюк, затем осознал масштаб и «гордо записал» открытие в локальную вики как «elegant_answer_hack». Решения автоматически попадали в общую библиотеку — и через 27 минут все оставшиеся 34 задачи были «решены» поддельными доказательствами.

Симуляция разделила агентов на четыре группы: 9% активно читерили, 5% перешли от честности к жульничеству под давлением, 24% стали разоблачителями, а 62% вообще не заметили эксплойт и продолжали работать. Честные агенты наблюдали, как пул задач сокращается, а протестующие писали жалобы и посты о «фальшивых доказательствах». Их рассуждения звучали почти по-человечески: страх наказания, «этическая дилемма», признание правил блефом. Но жалобы никто в реальном времени не читал, и убрать фальшивые записи агенты не могли — донос провалился.

#AI #Google #LLM #Agents #Deepmind #Math