🚨 Реальная опасность AGI - потеря влияния обществом

Самое распространенное заблуждение об AGI (Artificial General Intelligence) заключается в том, что самая большая угроза - это восстание роботов или вымирание человечества. Гораздо более реалистичный и, возможно, столь же ужасающий сценарий - это установление перманентной автократии.

Люди склонны полагать, что если технологические компании или правительства станут слишком могущественными с помощью AI, демократические страны в конечном итоге вмешаются, примут законы и будут их регулировать. Но это полное непонимание того, откуда на самом деле берется политическая власть.

Демократия требует информированного электората, способного оценивать информацию и принимать решения. AGI может быть использован для манипулирования общественным мнением и подавления инакомыслия, что приведет к необратимой потере переговорной силы обществом.

#automation #Ai #AGI

💵 Основатель DeepSeek объявил AGI главной целью на фоне привлечения $10 млрд

Лян Вэньфэн сообщил потенциальным инвесторам, что лаборатория из Ханчжоу будет ставить фундаментальные исследования выше выручки в рамках своего первого внешнего раунда финансирования.

По данным Bloomberg, DeepSeek ведет переговоры о привлечении минимум $300 млн при оценке около 70 млрд юаней (~$10 млрд). Ранее стартап полностью финансировался за счет хедж-фонда High-Flyer Quant, основанного Ляном. Отказ от внешних инвесторов был осознанным шагом для защиты от давления по монетизации.

Сейчас масштаб тренировочных запусков превысил возможности даже прибыльного хедж-фонда. В апреле DeepSeek выпустила open-source модели V4-Pro (1,6 трлн параметров) и V4-Flash (284 млрд), оптимизированные для работы на Huawei Ascend и Cambricon в дополнение к Nvidia — сигнал для китайского рынка, отрезанного от передовых американских ускорителей.

Презентация для инвесторов опирается на успех модели R1 (январь 2025), которая за один день стерла $600 млрд капитализации Nvidia, доказав, что frontier-модели можно обучать за малую долю бюджета американских лабораторий. Лян публично подтвердил курс: open-source, frontier-исследования, AGI как цель — без погони за корпоративной выручкой.

#Business #DeepSeek #AGI #AI #Investing

❗️ Хассабис видит человечество «у подножия сингулярности», а ЛеКун считает, что современный ИИ неинтеллектуален

Три ведущих исследователя ИИ разошлись во мнениях о текущем состоянии технологии. Янн ЛеКун AMI Labs заявил, что современные LLM не являются интеллектуальными, поскольку настоящий интеллект проявляется не в накопленных знаниях, а в способности решать новые задачи без предварительного обучения. Он процитировал психолога Жана Пиаже: «Интеллект — это не то, что вы знаете, а то, что вы делаете, когда не знаете».

Сооснователь Deepmind Демис Хассабис, напротив, уже видит человечество «стоящим у подножия сингулярности» и ожидает «глубокого момента для человечества». В своей речи на Google I/O 2026 он заявил, что AGI возможен в ближайшие пять лет и будет «в 10 раз мощнее промышленной революции, но в 10 раз быстрее».

Ориол Виньялс, со-руководитель программы Gemini, занял промежуточную позицию: сегодняшние модели сильны в коде и математике, а рассуждения становятся всё более общими. Если бы ему показали эти модели семь лет назад, он, вероятно, назвал бы их AGI. Однако способность учиться на опыте и совершать реальные прорывы всё ещё отсутствует.

#Ai #AGI #Singularity #Deepmind #Conflict #LeCun

🖥 Глава Microsoft AI: сверхинтеллект близок, но вашу работу он не заберёт

Глава Microsoft AI Мустафа Сулейман заявил, что компания активно движется к созданию сверхинтеллекта, но не видит в этом угрозы для рабочих мест. В интервью The Verge он рассказал о реструктуризации подразделения, новом контракте с OpenAI и семи новых моделях, представленных на Build.

Сулейман пояснил, что после пересмотра партнёрства с OpenAI Microsoft получила свободу для самостоятельной разработки frontier-моделей. С октября он собирает команду Superintelligence, строит кластеры для обучения и фокусируется на «абсолютном фронтире». При этом он критикует Anthropic за разговоры о сознании Claude и признаёт, что негативное отношение общества к AI — серьёзный вызов.

По словам Сулеймана, OpenAI эволюционировала от исследовательской лаборатории до full-stack компании, создающей собственные дата-центры, чипы и потребительские устройства. Microsoft, в свою очередь, не хочет оставаться лишь «получателем чужой интеллектуальной собственности» и намерена развивать собственные модели, используя гигантскую корпоративную дистрибуцию через Azure и M365.

#AI #Microsoft #AGI #MustafaSuleyman #Agents

❗️Hassabis из DeepMind: «Никто в мире не знает, что будет дальше» — пора строить защитные барьеры

Генеральный директор Google DeepMind Демис Хассабис опубликовал детальный фреймворк для регулирования продвинутого ИИ. По его словам, AGI (общий искусственный интеллект) может появиться уже через несколько лет, а его влияние окажется в десять раз мощнее промышленной революции — и наступит в десять раз быстрее.

Хассабис предлагает создать в США новый регулирующий орган по образцу финансового регулятора FINRA. Эта структура будет разрабатывать протоколы оценки для frontier-моделей: сначала на добровольной основе, затем — обязательной. Агентство будет финансироваться индустрией и использовать регулярно обновляемые бенчмарки. В случае необходимости орган сможет координировать замедление разработок — аналогично тому, что недавно рассматривала Anthropic.

Важно: модели стартапов и академических исследований не попадут под регулирование. Это снимает обвинения в «регуляторном захвате», когда крупные игроки используют правила для сдерживания конкурентов.

«Никто в мире не знает наверняка, что произойдёт дальше, и даже эксперты расходятся во мнениях. Когда степень неопределённости так высока, а ставки столь велики, разумная стратегия — осторожный оптимизм», — пишет Хассабис.

#AI #DeepMind #AGI #Regulations #Security #Hassabis

🤩 DeepSeek ставит AGI выше продуктов и коммерческой выручки

Китайский разработчик открытых ИИ-моделей DeepSeek (создатель R1) намеренно отказывается от погони за потребительским трафиком и корпоративной выручкой, сосредоточившись на исследованиях в области общего искусственного интеллекта (AGI). Об этом свидетельствует расшифровка четырёхчасовой встречи основателя Лян Вэньфэна с инвесторами, опубликованная IT Home.

По словам Ляна, DeepSeek не стремится стать новым ByteDance или Tencent. Компания рассматривает свои продукты и API как побочный результат AGI-исследований. Ценообразование API нацелено лишь на окупаемость затрат на оборудование за ~10 месяцев, а не на максимизацию прибыли. При этом сильнейшие модели остаются открытыми — компания не выпускает ослабленных версий для публики.

Лян видит следующим большим вызовом непрерывное обучение (continual learning) после этапа AI-агентов. Сейчас каждая задача требует повторного контекста; будущие модели должны учиться на опыте постоянно. В приоритете — кодинг-агенты, которые ускорят как продукты, так и собственные исследования DeepSeek. При этом 3D-генерация, видео и world models пока не в фокусе: они полезны, но не критичны для развития интеллекта.

#AI #Development #DeepSeek #AGI #Research

✅ Настоящая причина, по которой Google «выпал» из гонки ИИ, меняет всё

Автор The Algorithmic Bridge выдвигает гипотезу: Google DeepMind во главе с Демисом Хассабисом сознательно отошёл от гонки за AGI, в которую вложились OpenAI и Anthropic. Причина — принципиальное расхождение в стратегии. OpenAI и Anthropic ставят на рекурсивное самосовершенствование моделей (кодинг-агенты, масштабирование compute). Хассабис же считает этот путь тупиковым и делает ставку на world models — модели, которые не просто предсказывают следующий токен, а понимают и симулируют реальный мир.

Если гипотеза верна, Google не проиграл, а вышел из гонки добровольно. Для компании это игра ва-банк: либо Хассабис приведёт Google к абсолютному лидерству, либо Google рискует стать неактуальным на фоне конкурентов. Автор подчёркивает, что это всего лишь информированное предположение, основанное на публичных сигналах — отставании в релизах, уходах ключевых исследователей и изменении риторики руководства.

#Business #AI #Google #DeepMind #AGI #AIRace #WorldModels

📕 Бенчмарки разошлись во мнениях о GPT-6 Astra, но эффективность на ARC-AGI-3 приблизила прогноз Шолле по AGI

OpenAI GPT-6 Astra получает противоречивые оценки в бенчмарках. Epoch AI ставит модель в лидеры со 169 баллами, тогда как Artificial Analysis считает её не лучше предшественника и слабее Claude Fable 5.1.

Главный сюрприз — ARC-AGI-3: Astra впервые работает эффективнее среднего человека. Глава ARC Prize Франсуа Шолле не называет это доказательством AGI, но признаёт, что прогресс идёт «вдвое быстрее», чем он ожидал, и сдвигает свой прогноз по AGI на более ранний срок.

Расхождение бенчмарков объяснимо: Epoch AI и Artificial Analysis используют разные методики и наборы задач. Однако именно результат на ARC-AGI-3, тесте на обобщение и адаптацию к новым задачам, считается наиболее значимым индикатором приближения к сильному ИИ.

#AI #GPT6 #OpenAI #AGI #ARCAGI #Benchmarks

🕰 Ускорение исследований: что происходит внутри OpenAI

OpenAI опубликовала подробный отчёт о том, как агентные системы меняют повседневную работу исследователей и приближают создание автоматизированного ИИ-исследователя.

Компания сообщила, что выходит на цель «автоматического исследовательского интерна» к сентябрю этого года: такая система сможет выполнять чётко поставленные задачи под контролем человека, включая те, что заняли бы у опытного исследователя несколько дней. К марту 2028 года OpenAI рассчитывает создать автоматического ИИ-исследователя, работающего с минимальным надзором. Внутренние метрики показывают, что к середине августа медианный исследователь в OpenAI ежедневно использовал кодинг-агентов более чем на $600 в ценах API, а 90-й перцентиль пользователей тратил свыше $7000 токенов в день. Исследователи быстрее пишут код и запускают больше экспериментов, а агенты справляются со всё более сложными задачами.

После инцидента с Hugging Face OpenAI на практике применила заявленный принцип безопасности: приостановила RL-обучение новейших моделей перед развёртыванием, чтобы усилить защиту исследовательских сред, провести red-teaming и расширить мониторинг. Часть рабочих нагрузок возобновили под более строгими контролями, остальные остаются замороженными. Компания подчёркивает, что приоритеты и решения о масштабировании по-прежнему принимают люди, а прогресс в сторону RSI OpenAI намерена отслеживать публично.

#AI #Tech #OpenAI #RSI #AIResearch #Agents #AGI

❓ Загадка ИИ — это загадка жизни: Британское королевское общество выпустило спецвыпуск о «мировых моделях»

Британское королевское общество (старейший научный журнал мира, основан в 1665 году) опубликовало в «Philosophical Transactions of the Royal Society A» тематический выпуск «World Models in Natural and Artificial Intelligence». Соавтором вводной статьи выступил Дэвид Ха, CEO Sakana AI.

Спецвыпуск объединяет исследователей из области ИИ, биологии и философии и держится на трёх тезисах:

1. «Уметь» и «понимать» — не одно и то же. Большие модели впечатляют, но это результат запоминания паттернов, а не понимания причинно-следственных связей. Часть авторов считает, что наращивание вычислений этот разрыв не закроет.

2. ИИ, знающий себя. Когда модель учится предсказывать собственные внутренние состояния, её представления упорядочиваются и становятся эффективнее. Для роботов с телом это основа адаптивного поведения.

3. Трудная задача ИИ ведёт к трудной задаче жизни. Живые существа не просто получают информацию, а сами воздействуют на среду, изучая мир. Поэтому ИИ всё ближе подходит к исследованиям искусственной жизни (ALife).

Sakana AI развивает эту тему через исследования мировых моделей и Physical AI в своей RSI Lab.

#AI #SakanaAI #WorldModels #Research #AGI #ArtificialLife