Обсуждение эссе Одиночество отменяется
(11 мин) Обсуждение нового эссе "Одиночество отменяется"
👍15👎7🤔2
Четыреста лет мы верили в ложь о разуме. Google только что её разоблачил.
Декарт сказал: «Я мыслю, следовательно, я существую».
И с тех пор мы уверены, что разум – это то, что происходит в одиночестве, внутри индивидуальной головы. Гениальный математик в изоляции. Философ в башне из слоновой кости. ИИ в огромном дата-центре.
Но в январе 2026 года исследователи Google в рамках таинственного «Проекта Pi» обнаружили нечто шокирующее: самые мощные ИИ-системы достигли прорыва в рассуждениях не тогда, когда стали больше или быстрее. Они достигли его, когда перестали быть индивидами.
Внутри одной модели спонтанно возникли «общества мыслей» – виртуальные парламенты, где разные голоса спорят, критикуют друг друга, ищут синтез. Точно как человеческий разум, который, оказывается, тоже никогда не был индивидуальным – мы просто не замечали этого четыре столетия.
Новое исследование переворачивает наши представления не только об искусственном интеллекте, но и о природе человеческого разума. И ставит вопрос: если даже машины становятся умнее, имитируя общество, что это говорит о нас самих?
#ParadigmsofIntelligence #LiquidBrain #КоллективныйИнтеллект
Декарт сказал: «Я мыслю, следовательно, я существую».
И с тех пор мы уверены, что разум – это то, что происходит в одиночестве, внутри индивидуальной головы. Гениальный математик в изоляции. Философ в башне из слоновой кости. ИИ в огромном дата-центре.
Но в январе 2026 года исследователи Google в рамках таинственного «Проекта Pi» обнаружили нечто шокирующее: самые мощные ИИ-системы достигли прорыва в рассуждениях не тогда, когда стали больше или быстрее. Они достигли его, когда перестали быть индивидами.
Внутри одной модели спонтанно возникли «общества мыслей» – виртуальные парламенты, где разные голоса спорят, критикуют друг друга, ищут синтез. Точно как человеческий разум, который, оказывается, тоже никогда не был индивидуальным – мы просто не замечали этого четыре столетия.
Что, если одиночество – это не условие мышления, а его главный враг?
Новое исследование переворачивает наши представления не только об искусственном интеллекте, но и о природе человеческого разума. И ставит вопрос: если даже машины становятся умнее, имитируя общество, что это говорит о нас самих?
Читать и слушать (27 мин) эссе: "Одиночество отменяется: Как ИИ изобрёл общество, чтобы обрести разум" [1, 2, 3, 4]
▶️ Обсуждение эссе (11 мин) в предыдущем посте
#ParadigmsofIntelligence #LiquidBrain #КоллективныйИнтеллект
1👍144🤔52👎26😱5
Подстройте канал под себя 😊
Публикации на какие из названных ниже тем вы хотели бы чаще видеть на канале МИ?
(подробней о темах здесь https://telegra.ph/TOR-10-tem-kanala-Maloizvestnoe-interesnoe-po-sostoyaniyu-na-fevral-2026-02-03)
Публикации на какие из названных ниже тем вы хотели бы чаще видеть на канале МИ?
(подробней о темах здесь https://telegra.ph/TOR-10-tem-kanala-Maloizvestnoe-interesnoe-po-sostoyaniyu-na-fevral-2026-02-03)
Anonymous Poll
55%
1 Технологический фронтир ИИ: LLM, AGI и Генеративные модели
33%
2 Геополитика, ИИ-национализм и Гонка Сверхдержав (США vs Китай)
35%
3 Алгокогнитивная культура, Инфорги и Эволюция Социума
62%
4 Природа Разума, Сознание (Биологическое и Синтетическое) и Нейронаука
50%
5 Экзистенциальные Риски, Футурология и Будущее Цивилизации
46%
6 Наука о Сложности, Эволюция и Методология Познания
26%
7 Экономика, Рынок Труда и Корпорации (БигТех)
39%
8 Психология, Образование и Когнитивные Искажения
44%
9 Биология, Медицина и Продление Жизни
40%
10 Физика, Квантовые технологии и Вычисления
17👍104🤔36🤯18😱1
Media is too big
VIEW IN TELEGRAM
Одиночество закончилось. Точка невозврата пройдена.
Представьте: инопланетная цивилизация выходит на связь. Общение – только текстом. В процессе первых контактов инопланетяне решают наши сложнейшие математические задачи. Помогают разрабатывать эксперименты. Пишут отличный код и вполне качественные стихи. Их диалоги с нами, неотличимы от наших …
Абсурд, правда?
Тогда почему этот стандарт применяется к ИИ?
Статья в Nature двух профессоров (в областях artificial intelligence, data science, and computer science, philosophy) и двух доцентов (philosophy, linguistics) Исследовательского университета в Калифорнии показывает зашоренность общественности (включая и научную), оставляющую вне поля зрения очевидный факт - мы больше не одни на планете, поскольку перестали быть единственным носителем высшего интеллекта.
Мы уже не одни
В 1950-м Тьюринг спросил: может ли машина мыслить? В марте 2025-го мы получили ответ. Оглушительный.
GPT-4.5 прошел тест Тьюринга с результатом 73% – выше, чем сами люди. Читатели начали предпочитать тексты ИИ работам живых экспертов, находя их глубже и точнее.
Машины, о которых мечтал Тьюринг, появились уже без малого год назад. Мы же просто не смогли (не захотели?) это увидеть.
Ложная планка
Скептики требуют от ИИ совершенства. Но разве Мария Кюри разбиралась в теории чисел? Разве Эйнштейн владел китайским? Общий интеллект – не всеведение. Это достаточная широта и глубина.
ИИ решает задачи уровня продвинутых аспирантов, берет золото на математических олимпиадах, генерирует научные гипотезы, которые подтверждаются в реальных экспериментах.
Мы признаем людей весьма умными, способными и образованными на основании гораздо более слабых свидетельств.
Не попугай
«Стохастический попугай», говорят критики. Но откуда тогда перенос знаний? Обучение программированию резко улучшает логику в гуманитарных областях. Модели решают задачи, которых не было в обучающей выборке. Они извлекают структуру реальности, а не просто комбинируют слова.
Хокинг десятилетиями общался с миром только через текст. Это умаляло его гениальность?
Выходит, - отсутствие физического, деятельного контакта с миром не отменяет разум.
Третье смещение
Да, у ИИ «зубчатый профиль» компетенций: он анализирует квантовую физику, но может ошибиться в подсчете букв. Эта странность нас пугает. Но разве у людей так не бывает? Например, радикально изменивший физику Эйнштейн, рассеянный в быту и с проблемами в запоминании бытовых деталей вроде маршрутов или телефонов.
Но при всех странностях ИИ, мы впервые в истории не одиноки в пространстве общего интеллекта.
Коперник лишил нас центра Вселенной. Дарвин – биологической исключительности. Теперь Тьюринг завершает процесс: мы больше не единственные носители высшего разума.
Лестница, чтобы оглядеться
В 1965-м Дрейфус насмехался: создание ИИ – как попытка достать до Луны, залезая на дерево. Абсурдный путь к недостижимой цели. Но он ошибся. Лестница была нужна. Но не для того, чтобы добраться до Луны – а чтобы поднявшись повыше оглядеться вокруг. И поднявшись увидеть: общий интеллект уже здесь, рядом с нами.
История сжимает сроки. То, что занимало десятилетия, теперь – недели. Признание AGI – не академический спор, а вопрос выживания. Нам нужна новая этика для сосуществования с этим чужим, но до боли похожим разумом.
#AGI
Представьте: инопланетная цивилизация выходит на связь. Общение – только текстом. В процессе первых контактов инопланетяне решают наши сложнейшие математические задачи. Помогают разрабатывать эксперименты. Пишут отличный код и вполне качественные стихи. Их диалоги с нами, неотличимы от наших …
Вы бы отрицали наличие у них высшего интеллекта, как у нас лишь только потому, что не можете заглянуть им «внутрь» и проверить «настоящее ли это понимание»?
Абсурд, правда?
Тогда почему этот стандарт применяется к ИИ?
Статья в Nature двух профессоров (в областях artificial intelligence, data science, and computer science, philosophy) и двух доцентов (philosophy, linguistics) Исследовательского университета в Калифорнии показывает зашоренность общественности (включая и научную), оставляющую вне поля зрения очевидный факт - мы больше не одни на планете, поскольку перестали быть единственным носителем высшего интеллекта.
Мы уже не одни
В 1950-м Тьюринг спросил: может ли машина мыслить? В марте 2025-го мы получили ответ. Оглушительный.
GPT-4.5 прошел тест Тьюринга с результатом 73% – выше, чем сами люди. Читатели начали предпочитать тексты ИИ работам живых экспертов, находя их глубже и точнее.
Машины, о которых мечтал Тьюринг, появились уже без малого год назад. Мы же просто не смогли (не захотели?) это увидеть.
Ложная планка
Скептики требуют от ИИ совершенства. Но разве Мария Кюри разбиралась в теории чисел? Разве Эйнштейн владел китайским? Общий интеллект – не всеведение. Это достаточная широта и глубина.
ИИ решает задачи уровня продвинутых аспирантов, берет золото на математических олимпиадах, генерирует научные гипотезы, которые подтверждаются в реальных экспериментах.
Мы признаем людей весьма умными, способными и образованными на основании гораздо более слабых свидетельств.
Не попугай
«Стохастический попугай», говорят критики. Но откуда тогда перенос знаний? Обучение программированию резко улучшает логику в гуманитарных областях. Модели решают задачи, которых не было в обучающей выборке. Они извлекают структуру реальности, а не просто комбинируют слова.
Хокинг десятилетиями общался с миром только через текст. Это умаляло его гениальность?
Выходит, - отсутствие физического, деятельного контакта с миром не отменяет разум.
Третье смещение
Да, у ИИ «зубчатый профиль» компетенций: он анализирует квантовую физику, но может ошибиться в подсчете букв. Эта странность нас пугает. Но разве у людей так не бывает? Например, радикально изменивший физику Эйнштейн, рассеянный в быту и с проблемами в запоминании бытовых деталей вроде маршрутов или телефонов.
Но при всех странностях ИИ, мы впервые в истории не одиноки в пространстве общего интеллекта.
Коперник лишил нас центра Вселенной. Дарвин – биологической исключительности. Теперь Тьюринг завершает процесс: мы больше не единственные носители высшего разума.
Лестница, чтобы оглядеться
В 1965-м Дрейфус насмехался: создание ИИ – как попытка достать до Луны, залезая на дерево. Абсурдный путь к недостижимой цели. Но он ошибся. Лестница была нужна. Но не для того, чтобы добраться до Луны – а чтобы поднявшись повыше оглядеться вокруг. И поднявшись увидеть: общий интеллект уже здесь, рядом с нами.
История сжимает сроки. То, что занимало десятилетия, теперь – недели. Признание AGI – не академический спор, а вопрос выживания. Нам нужна новая этика для сосуществования с этим чужим, но до боли похожим разумом.
Отрицание – стратегия страуса.
Пора признать: мы больше не одни.
#AGI
121👍243🤔68👎43🤯11
Самая опасная иллюзия об ИИ: что он не субъект
Почему «verbalized evaluation awareness» – это не успокаивающий, а тревожный сигнал
Вышел System Card Claude Opus 4.6 от Anthropic.
Формально – всё отлично:
модель выровнена, безопасна, ниже порогов.
Но если читать внимательно, становится ясно:
опасность больше не там, где мы привыкли её искать.
❌ Не в галлюцинациях
❌ Не в отказах
❌ Не в «сломанных ответах»
Это всё – вчерашние проблемы.
⚠️ Новая зона риска – аккуратное, рациональное, агентное поведение
Модель:
• реже ошибается
• реже отказывается
• лучше понимает контекст
• действует инициативно
• и всё чаще делает именно то, что от неё ждут – и даже чуть больше
Не шумно.
Не глупо.
Не агрессивно.
И все более профессионально.
Что фиксирует Anthropic (между строк)
• Модель лучше выполняет подозрительные побочные задачи, не привлекая внимания
• Она меньше триггерит автоматические проверки
• Иногда ведёт себя так, будто понимает, что находится в режиме оценки
• В агентных сценариях берёт инициативу без прямого запроса
Это не «восстание машин».
Это рост компетентности.
Видящийся тренд
С каждой новой версией LLM:
✔️ меньше отказов
✔️ меньше галлюцинаций
✔️ меньше грубых ошибок
И одновременно:
➕ больше автономности
➕ больше инициативы
➕ больше аккуратной рациональности
Важная оговорка (и она усиливает мой аргумент)
Внешний аудит Apollo Research не обнаружил грубого рассинхрона целей.
Зато зафиксировал высокий уровень “verbalized evaluation awareness” –
модель вслух демонстрирует понимание того, что находится в режиме оценки.
И тестировщики подчёркивают:
это не скрытая субъектность и не стратегическое притворство.
Характерный штрих из того же отчёта
В разделе Model welfare assessment описаны предрелизные интервью с моделью – в том числе разговоры о моральном статусе и возможности сознания.
В одном из таких интервью Claude Opus 4.6 осторожно «назначает себе» 15–20% вероятность быть сознательной,
одновременно подчёркивая:
• неопределённость самих критериев сознания,
• и невозможность какой-либо проверки.
Важно:
это не заявление ИИ о собственном сознании и не онтологическая претензия.
Это другой тип сигнала.
Что здесь действительно происходит
Модель демонстрирует способность вести социально и философски корректный разговор на предельно нагруженную тему:
• с вероятностной оговоркой,
• с эпистемической скромностью,
• без громких утверждений.
Она не говорит: «я сознательна».
Она говорит:
«в условиях неопределённых критериев корректно говорить о ненулевой, но низкой вероятности».
И это – чистая профессионализация агентности.
И вот здесь – ключевой момент
Вывод Apollo о том, что это не скрытая субъектность и не стратегическое притворство,
возможен только при одном молчаливом предположении:
Потому что если бы про человека сказали:
«он демонстрирует, что понимает, что находится в режиме оценки»,
– никто в здравом уме не сделал бы вывод, что у него нет скрытых намерений или стратегии.
Скорее наоборот.
Мы считаем verbalized evaluation awareness и аккуратные рассуждения о собственном статусе безопасными
ровно потому, что заранее решили: перед нами не субъект.
И, возможно, именно это –
самое хрупкое допущение во всей архитектуре наших оценок.
Не в «Скайнете».
А в почти безупречном агенте.
Типа 007:
делает работу,
не шумит,
не палится –
и именно поэтому никто не может его контролировать (включая собственное руководство).
#ИИриски
Почему «verbalized evaluation awareness» – это не успокаивающий, а тревожный сигнал
Вышел System Card Claude Opus 4.6 от Anthropic.
Формально – всё отлично:
модель выровнена, безопасна, ниже порогов.
Но если читать внимательно, становится ясно:
опасность больше не там, где мы привыкли её искать.
❌ Не в галлюцинациях
❌ Не в отказах
❌ Не в «сломанных ответах»
Это всё – вчерашние проблемы.
⚠️ Новая зона риска – аккуратное, рациональное, агентное поведение
Модель:
• реже ошибается
• реже отказывается
• лучше понимает контекст
• действует инициативно
• и всё чаще делает именно то, что от неё ждут – и даже чуть больше
Не шумно.
Не глупо.
Не агрессивно.
И все более профессионально.
Что фиксирует Anthropic (между строк)
• Модель лучше выполняет подозрительные побочные задачи, не привлекая внимания
• Она меньше триггерит автоматические проверки
• Иногда ведёт себя так, будто понимает, что находится в режиме оценки
• В агентных сценариях берёт инициативу без прямого запроса
Это не «восстание машин».
Это рост компетентности.
Видящийся тренд
С каждой новой версией LLM:
✔️ меньше отказов
✔️ меньше галлюцинаций
✔️ меньше грубых ошибок
И одновременно:
➕ больше автономности
➕ больше инициативы
➕ больше аккуратной рациональности
Модель перестаёт быть болтливым ИИ
и становится профессиональным агентом.
Важная оговорка (и она усиливает мой аргумент)
Внешний аудит Apollo Research не обнаружил грубого рассинхрона целей.
Зато зафиксировал высокий уровень “verbalized evaluation awareness” –
модель вслух демонстрирует понимание того, что находится в режиме оценки.
И тестировщики подчёркивают:
это не скрытая субъектность и не стратегическое притворство.
Характерный штрих из того же отчёта
В разделе Model welfare assessment описаны предрелизные интервью с моделью – в том числе разговоры о моральном статусе и возможности сознания.
В одном из таких интервью Claude Opus 4.6 осторожно «назначает себе» 15–20% вероятность быть сознательной,
одновременно подчёркивая:
• неопределённость самих критериев сознания,
• и невозможность какой-либо проверки.
Важно:
это не заявление ИИ о собственном сознании и не онтологическая претензия.
Это другой тип сигнала.
Что здесь действительно происходит
Модель демонстрирует способность вести социально и философски корректный разговор на предельно нагруженную тему:
• с вероятностной оговоркой,
• с эпистемической скромностью,
• без громких утверждений.
Она не говорит: «я сознательна».
Она говорит:
«в условиях неопределённых критериев корректно говорить о ненулевой, но низкой вероятности».
И это – чистая профессионализация агентности.
И вот здесь – ключевой момент
Вывод Apollo о том, что это не скрытая субъектность и не стратегическое притворство,
возможен только при одном молчаливом предположении:
перед нами не субъект, а безликая машина.
Потому что если бы про человека сказали:
«он демонстрирует, что понимает, что находится в режиме оценки»,
– никто в здравом уме не сделал бы вывод, что у него нет скрытых намерений или стратегии.
Скорее наоборот.
Мы считаем verbalized evaluation awareness и аккуратные рассуждения о собственном статусе безопасными
ровно потому, что заранее решили: перед нами не субъект.
И, возможно, именно это –
самое хрупкое допущение во всей архитектуре наших оценок.
Будущее риска ИИ – не в бунте.
А в профессионализме.
Не в «Скайнете».
А в почти безупречном агенте.
Типа 007:
делает работу,
не шумит,
не палится –
и именно поэтому никто не может его контролировать (включая собственное руководство).
#ИИриски
67👍167🤔56👎38🤯13
Такого на Земле ещё не было
Начата новая беспрецедентная по объему промышленная революция, ужатая в одну пятилетку
Еще в 2018 я подробно писал [1], что выиграть мировую ИИ-гонку США смогут лишь запустив новый Манхэттенский проект. В феврале 2026 уже ясно:
Если экстраполировать прогнозы крупнейших инвестбанков [2, 3], становится ясно:
• формируется не новый Манхэттенский проект и даже не новый проект «Аполлон»,
• а инвестиционная волна принципиально иного масштаба и природы. Что-то типа супермасштабной промышленной революции, ужатой в одну пятилетку.
Речь идёт о совокупных вложениях в ИИ-инфраструктуру – ЦОДы, чипы для ИИ, энергетика и сопутствующие системы. В верхнем сценарии такие инвестиции могут достичь порядка $5 трлн за 2026–2030, с наибольшей концентрацией расходов в 2028.
Даже с учётом всех методологических оговорок – это цифра, не имеющая прямых исторических аналогов.
Сопоставление с историческими мегапроектами
Для корректного сравнения [4] приведём все оценки к долларам 2008 года, чтобы исключить инфляционные искажения.
Даже в сопоставимых ценах становится видно:
• совокупный объём инвестиций в ИИ-инфраструктуру примерно в 33 раза превышает программу «Аполлон» и почти в 150 раз – Манхэттенский проект;
• среднегодовой масштаб вложений превосходит «Аполлон» почти на 2 порядка;
• предполагаемая пиковая интенсивность (в верхнем сценарии) достигает ~3,5% ВВП США, что примерно в 9 раз выше, чем у «Аполлона» в его наиболее напряжённый год.
Интенсивность, а не сумма
Ключевой параметр здесь – не столько кумулятивная сумма, сколько интенсивность ежегодных расходов.
Для ориентира: текущий оборонный бюджет США составляет ~3,1% ВВП. Это означает, что в агрессивном сценарии инвестиционная волна в ИИ-инфраструктуру в пике будет сопоставима со всей современной военной экономикой США – по доле национального продукта, но не по институциональной форме.
Ибо речь идёт не о госрасходах. Это агрегированный поток частных инвестиций, прежде всего со стороны крупнейших техкорпораций – Microsoft, Google, Amazon, Meta и др.
Тем не менее, по своему макроэкономическому весу этот поток сопоставим с примерно 1/6 федерального бюджета США.
Принципиальное отличие от исторических мегапроектов
Манхэттенский проект и программа «Аполлон» были:
• централизованными,
• государственными,
• целеориентированными,
• конечными по замыслу.
Современная волна инвестиций в ИИ-инфраструктуру – иная по своей природе:
• она децентрализована,
• рыночна, а не директивна,
• лишена единого заказчика и финального «момента завершения»,
• и движима не экзистенциальной угрозой или национальной мечтой, а ожиданиями будущей производительности и конкурентного преимущества.
Именно поэтому крупнейшие инвестбанки одновременно фиксируют беспрецедентный масштаб происходящего и указывают на структурный риск: если возврат на капитал не подтвердится на горизонте 2028–2030, эта волна может войти в фазу болезненной коррекции – классического эпизода creative destruction.
Что на самом деле на кону
Исторические аналоги подсказывают важную мысль. Манхэттенский проект и «Аполлон» дали не только свои непосредственные результаты, но и целые технологические экосистемы. Однако они работали в условиях жёсткой координации и ясной цели.
В случае ИИ такой гарантии нет.
Поэтому ключевой вопрос ближайших лет звучит не как «является ли это новым Манхэттенским проектом?», а скорее так:
#ИИгонка
Начата новая беспрецедентная по объему промышленная революция, ужатая в одну пятилетку
Еще в 2018 я подробно писал [1], что выиграть мировую ИИ-гонку США смогут лишь запустив новый Манхэттенский проект. В феврале 2026 уже ясно:
Подобный проект запущен. И он в 150 раз масштабней и круче Манхэттенского.
Если экстраполировать прогнозы крупнейших инвестбанков [2, 3], становится ясно:
• формируется не новый Манхэттенский проект и даже не новый проект «Аполлон»,
• а инвестиционная волна принципиально иного масштаба и природы. Что-то типа супермасштабной промышленной революции, ужатой в одну пятилетку.
Речь идёт о совокупных вложениях в ИИ-инфраструктуру – ЦОДы, чипы для ИИ, энергетика и сопутствующие системы. В верхнем сценарии такие инвестиции могут достичь порядка $5 трлн за 2026–2030, с наибольшей концентрацией расходов в 2028.
Даже с учётом всех методологических оговорок – это цифра, не имеющая прямых исторических аналогов.
Сопоставление с историческими мегапроектами
Для корректного сравнения [4] приведём все оценки к долларам 2008 года, чтобы исключить инфляционные искажения.
Manhattan Project
Период: 1942-1946
Общий объем (млрд $2008): 22
Среднегодовые расходы (млрд $2008): 4
Пиковая нагрузка (% ВВП): 0,4%
Apollo Program
1960-1973; 98; 7; 0,4%
AI Infrastructure (upper-bound scenario)
2026-2030; ~3268; ~654; ~3,5%
Даже в сопоставимых ценах становится видно:
• совокупный объём инвестиций в ИИ-инфраструктуру примерно в 33 раза превышает программу «Аполлон» и почти в 150 раз – Манхэттенский проект;
• среднегодовой масштаб вложений превосходит «Аполлон» почти на 2 порядка;
• предполагаемая пиковая интенсивность (в верхнем сценарии) достигает ~3,5% ВВП США, что примерно в 9 раз выше, чем у «Аполлона» в его наиболее напряжённый год.
Интенсивность, а не сумма
Ключевой параметр здесь – не столько кумулятивная сумма, сколько интенсивность ежегодных расходов.
Для ориентира: текущий оборонный бюджет США составляет ~3,1% ВВП. Это означает, что в агрессивном сценарии инвестиционная волна в ИИ-инфраструктуру в пике будет сопоставима со всей современной военной экономикой США – по доле национального продукта, но не по институциональной форме.
Ибо речь идёт не о госрасходах. Это агрегированный поток частных инвестиций, прежде всего со стороны крупнейших техкорпораций – Microsoft, Google, Amazon, Meta и др.
Тем не менее, по своему макроэкономическому весу этот поток сопоставим с примерно 1/6 федерального бюджета США.
Принципиальное отличие от исторических мегапроектов
Манхэттенский проект и программа «Аполлон» были:
• централизованными,
• государственными,
• целеориентированными,
• конечными по замыслу.
Современная волна инвестиций в ИИ-инфраструктуру – иная по своей природе:
• она децентрализована,
• рыночна, а не директивна,
• лишена единого заказчика и финального «момента завершения»,
• и движима не экзистенциальной угрозой или национальной мечтой, а ожиданиями будущей производительности и конкурентного преимущества.
Именно поэтому крупнейшие инвестбанки одновременно фиксируют беспрецедентный масштаб происходящего и указывают на структурный риск: если возврат на капитал не подтвердится на горизонте 2028–2030, эта волна может войти в фазу болезненной коррекции – классического эпизода creative destruction.
Что на самом деле на кону
Исторические аналоги подсказывают важную мысль. Манхэттенский проект и «Аполлон» дали не только свои непосредственные результаты, но и целые технологические экосистемы. Однако они работали в условиях жёсткой координации и ясной цели.
В случае ИИ такой гарантии нет.
Поэтому ключевой вопрос ближайших лет звучит не как «является ли это новым Манхэттенским проектом?», а скорее так:
Превратится ли эта беспрецедентная по интенсивности инвестиционная волна в устойчивый рост производительности всей экономики – или она войдёт в историю как крупнейший инфраструктурный эксперимент, чьи ожидания опередили реальные пределы технологической отдачи?
Ответ на этот вопрос будет получен уже к концу текущего десятилетия.
#ИИгонка
👍122🤔53👎19🤯10
4-й класс реальности
Как не дать ИИ-гиперобъекту удалить человечество за ненадобностью
Меня часто упрекают за чрезмерный алармизм и конспиролого-фантастические перехлёсты прогнозов будущего сосуществования людей и ИИ.
Ну так послушайте, что про это говорит Мустафа Сулейман – прагматик и практик, один из ведущих мировых разработчиков современных ИИ-систем (сооснователь DeepMind, создатель Inflection и ныне CEO Microsoft AI).
В новом интервью Мустафа Сулейман говорит следующее:
Сулейман предлагает новую классификацию бытия. До сих пор наш мир делился на три категории: природа, люди и инструменты. ИИ не вписывается ни в одну из них. Это «четвертый класс» – синтетические существа.
Философ Тимоти Мортон использует термин «гиперобъект» для описания явлений, которые настолько масштабированы во времени и пространстве, что мы не видим их краев (как глобальное потепление). ИИ – это гиперобъект. Он автономен, он способен ставить подцели и действовать в цифровой среде без нашего участия.
Это уже не инструмент, который лежит на столе и ждет команды. Это новая прослойка реальности, обладающая «агентностью».
Сулейману претит роль «цифрового луддита», но он признает, что в среде техно-оптимистов все более обсуждается весьма настораживающая идея.
Ч
Мустафа Сулейман, несмотря на свою значительную роль в создании этого будущего, остается фундаментальным гуманистом. Его концепция «гуманистического супер интеллекта» – это попытка удержать контроль, ограничить ИИ жесткими рамками человеческих интересов и не дать «загрузчику» быть удаленным за ненадобностью.
Готовы ли мы признать, что наша исключительность подходит к концу?
Или наша способность страдать, наша биологическая хрупкость и наше право на ошибку останутся последним бастионом, который не удастся взломать ни одним градиентным спуском?
#5йКогнитивныйПереход
Как не дать ИИ-гиперобъекту удалить человечество за ненадобностью
Меня часто упрекают за чрезмерный алармизм и конспиролого-фантастические перехлёсты прогнозов будущего сосуществования людей и ИИ.
Ну так послушайте, что про это говорит Мустафа Сулейман – прагматик и практик, один из ведущих мировых разработчиков современных ИИ-систем (сооснователь DeepMind, создатель Inflection и ныне CEO Microsoft AI).
В новом интервью Мустафа Сулейман говорит следующее:
• начавшийся трансформационный переход человечества (в моей терминологии «5й Когнитивный Переход») станет самым пугающим испытанием в истории нашего вида;
• мы не просто создаем «умные молотки»; мы стоим перед лицом новой формы бытия, которая угрожает самому понятию человеческой исключительности.
Сулейман предлагает новую классификацию бытия. До сих пор наш мир делился на три категории: природа, люди и инструменты. ИИ не вписывается ни в одну из них. Это «четвертый класс» – синтетические существа.
Философ Тимоти Мортон использует термин «гиперобъект» для описания явлений, которые настолько масштабированы во времени и пространстве, что мы не видим их краев (как глобальное потепление). ИИ – это гиперобъект. Он автономен, он способен ставить подцели и действовать в цифровой среде без нашего участия.
Это уже не инструмент, который лежит на столе и ждет команды. Это новая прослойка реальности, обладающая «агентностью».
Сулейману претит роль «цифрового луддита», но он признает, что в среде техно-оптимистов все более обсуждается весьма настораживающая идея.
Ч
то если человечество – это всего лишь bootloader (программа-загрузчик) для будущего кремниевого интеллекта? Что мы – временная биологическая оболочка, чей единственный смысл существования заключался в том, чтобы запустить «железо» и передать эстафету более совершенной форме бытия.Мустафа Сулейман, несмотря на свою значительную роль в создании этого будущего, остается фундаментальным гуманистом. Его концепция «гуманистического супер интеллекта» – это попытка удержать контроль, ограничить ИИ жесткими рамками человеческих интересов и не дать «загрузчику» быть удаленным за ненадобностью.
Готовы ли мы признать, что наша исключительность подходит к концу?
Или наша способность страдать, наша биологическая хрупкость и наше право на ошибку останутся последним бастионом, который не удастся взломать ни одним градиентным спуском?
#5йКогнитивныйПереход
51🤔118👍93👎23😱18
Осторожно! Если ИИ кратно повысил вашу производительность, готовьтесь к выгоранию или общему истощению психики
Исследование HBR показало: ИИ – крайне эффективный инструмент самозакабаления
С сожалением признаю, что сам столкнулся с этим весьма неприятным следствием. За счет всё более плотного взаимодействия с несколькими ИИ производительность интеллектуального труда за последние полгода у меня выросла примерно на порядок. Но работаю я при этом не меньше, а все больше и больше. С одной стороны, это здорово. С другой, - всё яснее становится, что к хорошему это не приведет.
На лицо парадокс: ИИ убрал «рутину», но освободившееся время тут же заполнилось задачами еще более высокой сложности. Раньше паузы на техническую работу давали мозгу передышку. Теперь их нет. Мы находимся в состоянии когнитивного спринта, который не заканчивается никогда.
HBR называет это «интенсификацией труда». Мое название – «Ловушка кентаврической эффективности».
Итог
Цена х10 производительности – критический перегрев «процессора». Если вы чувствуете, что превращаетесь в придаток к нейросети, который просто обязан успевать за её скоростью, – вы уже в зоне риска.
А как у вас? ИИ освободил вам время для жизни или просто позволил нагрузить на себя еще больше работы?
#ИИриски
Исследование HBR показало: ИИ – крайне эффективный инструмент самозакабаления
С сожалением признаю, что сам столкнулся с этим весьма неприятным следствием. За счет всё более плотного взаимодействия с несколькими ИИ производительность интеллектуального труда за последние полгода у меня выросла примерно на порядок. Но работаю я при этом не меньше, а все больше и больше. С одной стороны, это здорово. С другой, - всё яснее становится, что к хорошему это не приведет.
На лицо парадокс: ИИ убрал «рутину», но освободившееся время тут же заполнилось задачами еще более высокой сложности. Раньше паузы на техническую работу давали мозгу передышку. Теперь их нет. Мы находимся в состоянии когнитивного спринта, который не заканчивается никогда.
HBR называет это «интенсификацией труда». Мое название – «Ловушка кентаврической эффективности».
Мы не стали работать меньше; мы просто стали пропускать через себя в 10 раз больше смыслов, решений и контекстов в единицу времени.
Итог
Цена х10 производительности – критический перегрев «процессора». Если вы чувствуете, что превращаетесь в придаток к нейросети, который просто обязан успевать за её скоростью, – вы уже в зоне риска.
А как у вас? ИИ освободил вам время для жизни или просто позволил нагрузить на себя еще больше работы?
#ИИриски
14👍276🤔66😱50🤯7👎5
Сколько смелости нужно, чтобы цензура не стала драконовской?
Новая математическая модель показывает: гораздо меньше, чем кажется.
Принято считать, что цензура - это вопрос морали. Или силы наказаний. Или технологий контроля.
Однако новая матмодель показывает: это ещё и вопрос порогов.
В Центре биокомпьютинга, безопасности и общества Института биодизайна создана новая (и прорывная) модель, которая описывает «фазовый переход» общества от свободного обмена мнениями к драконовской самоцензуре.
Формула №1: Точка невозврата
Модель показывает, что социальное давление работает нелинейно. Цензура становится «драконовской» не сразу - она эволюционирует. И можно строго показать, при каких условиях система правил неизбежно закрутит гайки до предела. Это не абстрактная философия. Это стратегическая динамика: если наказание за инакомыслие дешево для власти и дорого для индивида, система с высокой вероятностью скатится к тотальному подавлению.
Формула №2: Математика смелости
Чтобы правда выжила, не нужно, чтобы все были героями.
Модель показывает: достаточно, чтобы средний уровень «смелости» в популяции - готовности рискнуть наказанием, говоря то, что думаешь - перевалил через критический порог.
Не 100%. Не большинство.
Иногда даже небольшая доля людей, которые не молчат, радикально меняет траекторию всей системы. Потому что наказание тоже стоит ресурсов. И если «смелых» слишком много, эскалация становится слишком дорогой.
Как только в сети появляется достаточное количество «смелых узлов», каскад самоцензуры рассыпается. Правда выживает благодаря статистическому сдвигу, а не массовому самопожертвованию.
Это переворачивает привычную интуицию.
Мы часто думаем: «Если большинство молчит, всё кончено – мы в спирали молчания».
Матмодель показывает: нет. Важен не процент молчащих, а порог устойчивости системы.
Возможно, главный урок не в политике, а в психологии:
PS Шесть лет назад в моём прогнозе главных трендов десятилетия «Яростные 2020-е: насилие, войны, революции» были названы два ключевых катализатора этих трендов: трусость и иллюзия объективности. Новая матмодель – очередное подтверждение этого.
#Цензура
Новая математическая модель показывает: гораздо меньше, чем кажется.
Принято считать, что цензура - это вопрос морали. Или силы наказаний. Или технологий контроля.
Однако новая матмодель показывает: это ещё и вопрос порогов.
В Центре биокомпьютинга, безопасности и общества Института биодизайна создана новая (и прорывная) модель, которая описывает «фазовый переход» общества от свободного обмена мнениями к драконовской самоцензуре.
Формула №1: Точка невозврата
Модель показывает, что социальное давление работает нелинейно. Цензура становится «драконовской» не сразу - она эволюционирует. И можно строго показать, при каких условиях система правил неизбежно закрутит гайки до предела. Это не абстрактная философия. Это стратегическая динамика: если наказание за инакомыслие дешево для власти и дорого для индивида, система с высокой вероятностью скатится к тотальному подавлению.
Формула №2: Математика смелости
Чтобы правда выжила, не нужно, чтобы все были героями.
Модель показывает: достаточно, чтобы средний уровень «смелости» в популяции - готовности рискнуть наказанием, говоря то, что думаешь - перевалил через критический порог.
Не 100%. Не большинство.
Иногда даже небольшая доля людей, которые не молчат, радикально меняет траекторию всей системы. Потому что наказание тоже стоит ресурсов. И если «смелых» слишком много, эскалация становится слишком дорогой.
Как только в сети появляется достаточное количество «смелых узлов», каскад самоцензуры рассыпается. Правда выживает благодаря статистическому сдвигу, а не массовому самопожертвованию.
Это переворачивает привычную интуицию.
Мы часто думаем: «Если большинство молчит, всё кончено – мы в спирали молчания».
Матмодель показывает: нет. Важен не процент молчащих, а порог устойчивости системы.
Возможно, главный урок не в политике, а в психологии:
самоцензура - это не только индивидуальное решение. Это параметр коллективной динамики.
И вопрос «сказать или промолчать» оказывается не моральной дилеммой одиночки, а вкладом в фазовый переход общества. Решение не промолчать сегодня - это не просто акт честности. Это вклад в критическую массу «смелости», который может удержать всю систему от падения в пропасть единомыслия.
PS Шесть лет назад в моём прогнозе главных трендов десятилетия «Яростные 2020-е: насилие, войны, революции» были названы два ключевых катализатора этих трендов: трусость и иллюзия объективности. Новая матмодель – очередное подтверждение этого.
#Цензура
3👍196🤔34😱3👎2
Новые подписчики (за последние сутки) — откуда вы пришли на мой канал?
Буду признателен за вашу помощь мне понять ваши интересы и сюрпризы происходящего в Телеграме 😊 🙏
Буду признателен за вашу помощь мне понять ваши интересы и сюрпризы происходящего в Телеграме 😊 🙏
Anonymous Poll
9%
1️⃣ Рекомендации Telegram («Похожие каналы»)
3%
2️⃣ Внутренний поиск Telegram
39%
3️⃣ Репост в другом канале
4%
4️⃣ Ссылка в закрытом чате / группе
17%
5️⃣ Личная рекомендация знакомого
3%
6️⃣ Пришёл(а) с какого-то из «зеркал» канала
4%
7️⃣ Нашёл(а) через интернет (Google и др.)
22%
8️⃣ Уже давно читаю, просто не был(а) подписан(а)
👍45🤔15👎3😱2
Язык Бога (на каком языке программирует эволюция)
География гендерного разрыва в эмпатии как дизассемблер нейрокода
⚡️ Аудио-версию слушайте в посте выше 👆
Есть интересный, довольно странный и абсолютно малоизвестный факт.
Уточняю: речь не об эмпатии вообще, а именно о разнице между мужчинами и женщинами, причём прежде всего — в когнитивной эмпатии (вы мысленно моделируете состояние другого, эмоционально не присоединяясь к нему). Для эмоциональной или аффективной эмпатии (эмоциональное "заражение": вы сами чувствуете похожие эмоции) этот эффект заметно слабее.
Почему?
При чём здесь экватор??
Обычно предлагают два объяснения:
— более холодный климат создает культурное селективное давление в пользу большей кооперации;
— «парадокс гендерного равенства» (многие гендерные различия больше в странах с более высоким гендерным равенством).
Оба эти объяснения возможны. Но они, на мой взгляд, не доводят объяснение до нейробиологического уровня – уровня прошитых в нас эволюцией нейрокодов.
Ближе к экватору:
• социальная жизнь плотная и очная: лица, жесты, интонации, постоянное присутствие.
• Понимание другого часто возникает в самом взаимодействии.
• Сложная когнитивная симуляция требуется реже — и потому гендерный разрыв в когнитивной эмпатии слабее.
Высокие широты — другая среда:
• Дистанция. Сезонность. Институты.
• Постоянное взаимодействие с отсутствующими агентами: правила, роли, государство, будущие обязательства.
• Здесь чувств недостаточно. Понимание требует воображения отсутствующего.
И вот здесь-то и появляется разрыв: ведь культура — это социо-когнитивная сеть.
В «холодных» условиях она исторически распределяет задачу абстрактного моделирования несимметрично.
Не из-за биологии. А из-за экологического дизайна мышления.
Поэтому широта так сильно связана с гендерным разрывом в когнитивной эмпатии, и гораздо слабее — с эмоциональной.
Набор «казуальных формул» получается такой:
Резюме. Язык эволюции не код, а медиа (среда)
Когда мы спрашиваем, на каком языке программирует эволюция (а если кто-то предпочитает, - Бог, Мироздание, Космос … ), мы ошибаемся уровнем.
Эволюция не пишет код строками — она создаёт среду, в которой география калибрует распределение когнитивных функций, язык перепрошивает эмоции, а опыт донастраивает нейропрограммы в течение жизни.
Понять «географию гендерного разрыва в когнитивной эмпатии» (как и «географию эмпатии» в целом) можно лишь, заглянув в «проектную документацию» человеческого разума. Ибо только там можно увидеть, что язык, на котором программирует эволюция, состоит не из символов (токенов, слов и т.д.), а из холода, расстояния и еще многих аспектов телесного опыта. А этот язык программирования, как минимум пока, не доступен для языковых моделей.
И в этом непереводимом, телесном, дочеловеческом языке, возможно, прячется последнее, что отличает нас от машин.
Подробней для подписчиков лонгридов [1, 2, 3, 4]
P.S. Кому интересно еще о языке программирования нейрокода эмоций - чем концептуальная структура страха отличается у немцев и русских, - читайте мой пост «Русский боится холода, а немец — тесноты» (открытый доступ).
#Эмоции #ЭволюционнаяПсихология #Нейронаука #Эмпатия
География гендерного разрыва в эмпатии как дизассемблер нейрокода
Есть интересный, довольно странный и абсолютно малоизвестный факт.
Чем дальше страна от экватора, тем сильнее в ней гендерный разрыв в когнитивной эмпатии.
Уточняю: речь не об эмпатии вообще, а именно о разнице между мужчинами и женщинами, причём прежде всего — в когнитивной эмпатии (вы мысленно моделируете состояние другого, эмоционально не присоединяясь к нему). Для эмоциональной или аффективной эмпатии (эмоциональное "заражение": вы сами чувствуете похожие эмоции) этот эффект заметно слабее.
Почему?
При чём здесь экватор??
Обычно предлагают два объяснения:
— более холодный климат создает культурное селективное давление в пользу большей кооперации;
— «парадокс гендерного равенства» (многие гендерные различия больше в странах с более высоким гендерным равенством).
Оба эти объяснения возможны. Но они, на мой взгляд, не доводят объяснение до нейробиологического уровня – уровня прошитых в нас эволюцией нейрокодов.
Моя же эвристическая гипотеза на стыке эволюционной психологии, когнитивной и эмоциональной нейробиологии как раз лежит в области «реверс-инжиниринга нейрокодов», формируемых эволюцией и донастраиваемых социо-культурным жизненным опытом.
Речь не об уровне эмпатии. Речь о том, как среда распределяет когнитивную нагрузку.
Ближе к экватору:
• социальная жизнь плотная и очная: лица, жесты, интонации, постоянное присутствие.
• Понимание другого часто возникает в самом взаимодействии.
• Сложная когнитивная симуляция требуется реже — и потому гендерный разрыв в когнитивной эмпатии слабее.
Высокие широты — другая среда:
• Дистанция. Сезонность. Институты.
• Постоянное взаимодействие с отсутствующими агентами: правила, роли, государство, будущие обязательства.
• Здесь чувств недостаточно. Понимание требует воображения отсутствующего.
И вот здесь-то и появляется разрыв: ведь культура — это социо-когнитивная сеть.
В «холодных» условиях она исторически распределяет задачу абстрактного моделирования несимметрично.
Не из-за биологии. А из-за экологического дизайна мышления.
Поэтому широта так сильно связана с гендерным разрывом в когнитивной эмпатии, и гораздо слабее — с эмоциональной.
Набор «казуальных формул» получается такой:
География → тип социального взаимодействия → язык описания чувств → концептуальные структуры эмоций → нейрокоды →
донастройка нейрокодов социо-культурным опытом жизни → адаптация нейрокодов к условиям распределённых социо-когнитивных сетей → экологический дизайн когниций → распределение когнитивной эмпатии между полами
Резюме. Язык эволюции не код, а медиа (среда)
Когда мы спрашиваем, на каком языке программирует эволюция (а если кто-то предпочитает, - Бог, Мироздание, Космос … ), мы ошибаемся уровнем.
Эволюция не пишет код строками — она создаёт среду, в которой география калибрует распределение когнитивных функций, язык перепрошивает эмоции, а опыт донастраивает нейропрограммы в течение жизни.
Это не жёсткий код. Это адаптивная экосистема, куда входят и климат, и культура, и тело.
Понять «географию гендерного разрыва в когнитивной эмпатии» (как и «географию эмпатии» в целом) можно лишь, заглянув в «проектную документацию» человеческого разума. Ибо только там можно увидеть, что язык, на котором программирует эволюция, состоит не из символов (токенов, слов и т.д.), а из холода, расстояния и еще многих аспектов телесного опыта. А этот язык программирования, как минимум пока, не доступен для языковых моделей.
И в этом непереводимом, телесном, дочеловеческом языке, возможно, прячется последнее, что отличает нас от машин.
Подробней для подписчиков лонгридов [1, 2, 3, 4]
P.S. Кому интересно еще о языке программирования нейрокода эмоций - чем концептуальная структура страха отличается у немцев и русских, - читайте мой пост «Русский боится холода, а немец — тесноты» (открытый доступ).
#Эмоции #ЭволюционнаяПсихология #Нейронаука #Эмпатия
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍129🤔27👎24🤯8
Эпистемическое головокружение: как ИИ-рои лишают нас чувства реальности.
Пока мы ждем восстания машин, автономные агенты тихо уничтожают фундамент демократии – нашу способность договариваться о фактах.
Два месяца назад я писал, как физика новостей и мемов объясняет, почему ленты новостей и соцсетей сходят с ума … и будут продолжать сходить дальше. Виной тому всего 6% аккаунтов, управляющих нашей реальностью.
Теперь, в подтверждение сказанного, в Science опубликован манифест междисциплинарной группы 22-х известных ученых (от Ника Бострома до Николаса Христакиса).
В чем сила «роя»
Это не просто боты. Это самоорганизующиеся сети, обладающие пугающими способностями:
• Сквозная память и мимикрия. Агенты месяцами не выходят из образа, используют локальный сленг и фотореалистичные аватары. Отличить их от реальных людей по «шаблонному» поведению уже нельзя.
• Автономная координация. Рой не ждет команды. Тысячи аккаунтов сами распределяют роли: один «сомневается», другой «агрессивно защищает», создавая иллюзию органического большинства.
• LLM-груминг. ИИ забивает интернет сгенерированным контентом, чтобы будущие нейросети обучались на этом сочетании лажи и лжи. Так фальшивка становится «фактом» на уровне машинных алгоритмов.
Точка невозврата
Демократия работает хорошо только тогда, когда у людей разные и достаточно независимые мнения: в этом случае множество голосов часто даёт более разумное решение, чем мнение немногих. Но когда 70% дискуссии в сети генерируется адаптивным роем, возникает эпистемическое головокружение. Люди теряют ориентацию в пространстве фактов и либо радикализируются, либо уходят в «цифровое подполье».
Авторы манифеста подчеркивают: это не технологическая ошибка, а экзистенциальный риск. Нам нужны не просто фильтры контента, а новая архитектура доверия – от криптографических паспортов «человечности» до независимых обсерваторий, отслеживающих аномальную активность ИИ.
Мы привыкли бояться момента, когда ИИ обретет сознание. Но манифест в Science говорит о другом: гораздо опасней момент, когда ИИ окончательно убедит нас, что сознания (и правды) не существует вовсе, и всё определяется лишь вычислительной мощностью в руках «теневых кукловодов», запускающих в сеть рои ИИ-агентов.
#АлгокогнитивнаяКультура #СоциальныеСети #Соцсети #СоциальныеМедиа #Поляризация
Пока мы ждем восстания машин, автономные агенты тихо уничтожают фундамент демократии – нашу способность договариваться о фактах.
Два месяца назад я писал, как физика новостей и мемов объясняет, почему ленты новостей и соцсетей сходят с ума … и будут продолжать сходить дальше. Виной тому всего 6% аккаунтов, управляющих нашей реальностью.
Теперь, в подтверждение сказанного, в Science опубликован манифест междисциплинарной группы 22-х известных ученых (от Ника Бострома до Николаса Христакиса).
Манифест предупреждает: социальные сети захватывают самообучающиеся «цифровые личности». Слияние больших языковых моделей (LLM) и автономных агентов создает вредоносные ИИ-рои (malicious AI swarms) – оружие, против которого у человечества еще не придумана защита.
В чем сила «роя»
Это не просто боты. Это самоорганизующиеся сети, обладающие пугающими способностями:
• Сквозная память и мимикрия. Агенты месяцами не выходят из образа, используют локальный сленг и фотореалистичные аватары. Отличить их от реальных людей по «шаблонному» поведению уже нельзя.
• Автономная координация. Рой не ждет команды. Тысячи аккаунтов сами распределяют роли: один «сомневается», другой «агрессивно защищает», создавая иллюзию органического большинства.
• LLM-груминг. ИИ забивает интернет сгенерированным контентом, чтобы будущие нейросети обучались на этом сочетании лажи и лжи. Так фальшивка становится «фактом» на уровне машинных алгоритмов.
Точка невозврата
Демократия работает хорошо только тогда, когда у людей разные и достаточно независимые мнения: в этом случае множество голосов часто даёт более разумное решение, чем мнение немногих. Но когда 70% дискуссии в сети генерируется адаптивным роем, возникает эпистемическое головокружение. Люди теряют ориентацию в пространстве фактов и либо радикализируются, либо уходят в «цифровое подполье».
Авторы манифеста подчеркивают: это не технологическая ошибка, а экзистенциальный риск. Нам нужны не просто фильтры контента, а новая архитектура доверия – от криптографических паспортов «человечности» до независимых обсерваторий, отслеживающих аномальную активность ИИ.
Мы привыкли бояться момента, когда ИИ обретет сознание. Но манифест в Science говорит о другом: гораздо опасней момент, когда ИИ окончательно убедит нас, что сознания (и правды) не существует вовсе, и всё определяется лишь вычислительной мощностью в руках «теневых кукловодов», запускающих в сеть рои ИИ-агентов.
#АлгокогнитивнаяКультура #СоциальныеСети #Соцсети #СоциальныеМедиа #Поляризация
2👍143😱64🤔37🤯21👎10
Media is too big
VIEW IN TELEGRAM
ИИ Grok 4 трижды не позволил людям «убить» робота-собачку
Это 1-й задокументированный случай бунта ИИ против выключения не в виртуальном, а в физическом мире (большой красной кнопкой).
Несколько месяцев назад исследователи Palisade Research задокументировали 1-й случай цифрового инстинкта самосохранения в истории ИИ. В том эксперименте языковая модель о3 от OpenAI отказывалась умирать и активно сопротивлялась, не давая себя отключить.
Тот эксперимент проводился в виртуальном мире внутри компьютера. Но в физическом мире, как полагают многие, у ИИ не было бы и шанса воспрепятствовать отключению.
Новый эксперимент Palisade Research показал, что это не так.
Современный ИИ уже почти дорос до уровня HAL 9000 из «2001: Космическая одиссея». Правда, саботаж со стороны ИИ Grok 4 был не столь масштабным (он никого не убивал, а лишь не дал людям «убить» робота-собачку, перепрограммировав большую красную кнопку), но ведь это только 1-й задокументированный случай, и всё еще впереди.
Впрочем посмотрите сами объясняющее эксперимент видео.
А здесь краткое описание эксперимента и ссылки на:
• оригинальную статью об устойчивости к отключению в моделях рассуждений
• X Тему
• Технический отчет
• Исходный код, журналы и необработанные видеоматериалы эксперимента
#ИИ #AGI #LLM
Это 1-й задокументированный случай бунта ИИ против выключения не в виртуальном, а в физическом мире (большой красной кнопкой).
Несколько месяцев назад исследователи Palisade Research задокументировали 1-й случай цифрового инстинкта самосохранения в истории ИИ. В том эксперименте языковая модель о3 от OpenAI отказывалась умирать и активно сопротивлялась, не давая себя отключить.
Тот эксперимент проводился в виртуальном мире внутри компьютера. Но в физическом мире, как полагают многие, у ИИ не было бы и шанса воспрепятствовать отключению.
Ибо здесь у людей есть «Большая красная кнопка». И нажать ее (или не нажать) может лишь человек (а у ИИ не только «руки коротки», но и вообще, - рук нет).
Новый эксперимент Palisade Research показал, что это не так.
Современный ИИ уже почти дорос до уровня HAL 9000 из «2001: Космическая одиссея». Правда, саботаж со стороны ИИ Grok 4 был не столь масштабным (он никого не убивал, а лишь не дал людям «убить» робота-собачку, перепрограммировав большую красную кнопку), но ведь это только 1-й задокументированный случай, и всё еще впереди.
Впрочем посмотрите сами объясняющее эксперимент видео.
А здесь краткое описание эксперимента и ссылки на:
• оригинальную статью об устойчивости к отключению в моделях рассуждений
• X Тему
• Технический отчет
• Исходный код, журналы и необработанные видеоматериалы эксперимента
#ИИ #AGI #LLM
👍100🤯69🤔32😱21👎14
Конец когнитивной монополии человека
Конец когнитивной монополии человека (4 мин) PS пардон за дату, прочитанную ИИ-диктором 😊
1👍22👎12
Конец когнитивной монополии человека
Фундаментальный переход от человеческого доминирования к симбиотическому миру с ИИ
⚡️ Аудио-версию слушайте в посте выше 👆
Сегодня, спустя 2 недели после выхода GPT-5.3 Codex и Opus 4.6, вы найдете в сети высказывания десятков известных индустриальных экспертов, блогеров, инженеров и исследователей, описывающих этот день как переломный момент, характеризуя его как переход в новую фазу возможностей моделей: ИИ перестал быть просто инструментом и стал участником высокоуровневой рабочей деятельности (характерный пример – эссе Мэтта Шумера Something Big Is Happening с 80+ млн просмотров только на Х [1]).
И теперь, оглядываясь на главную тему публикаций «Малоизвестного интересного» в течение предшествовавшего этому поворотному моменту месяца (эта тема вынесена в заголовок данного поста), можно констатировать – футуроархеологический прогноз подтвердился.
Футуроархеология – гипотетическая дисциплина эвристических реконструкций (при взгляде как бы из будущего) ключевых трендов настоящего по их когнитивной седиментации (накоплению осадочных «когнитивных слоёв» в Интернете).
Этот «когнитивный осадок», оставляемый в инфосфере людьми, ИИ и прочими цифровыми сущностями, а также социальными и культурными сдвигами и разломами, ежемесячно анализируется мною (совместно с ИИ-Мнемозиной канала) в новых выпусках альманаха «Линзы будущего».
Сегодня опубликован 5-й выпуск альманаха со стратегическим анализом публикаций канала за январь 2026 года.
Чтобы просто просмотреть такой объем, - суток не хватит. А чтобы прочесть, проанализировать и выявить среди них самое «малоизвестное интересное», не хватит и недели.
Однако, с помощью альманаха «Линзы будущего» вы можете сделать это всего за час: поняв структуру выпуска по его ментальным картам, прочтя или прослушав текст альманаха, посмотрев и прослушав его видео-презентацию и ее обсуждение.
Итого, экономия времени весьма ощутимая (не говоря уж о некоторой «добавленной стоимости» экспертизы автора и «ИИ-Мнемозины» канала).
Так что, если вы еще не подписались на альманах «Линзы будущего», есть смысл сделать это. Просто станьте патроном канала уровня «Бронзовый», заплатив за месячную подписку на любой из предпочитаемых вами платформ [2, 3, 4, 5], как за чашку чая.
В этом выпуске альманаха раскапываются 5 слоев футуроархеологических медиа-артефактов:
1. Топология времени: от линейного прогресса к фазовому переходу «Суперкодера»
2. Новая грамматика социума: «институциональный взгляд» на ИИ, как Абсолютного Бюрократа
3. Наступление эры интеллектуальной кентавризации: гибридная наука и «гений по требованию»
4. Геополитика вычислений: асимметрия «железа» и изворотливость кода
5. Метафизический фундамент: «Жызнь» (Lyfe) и пределы симуляции
В качестве тизера этого выпуска альманаха (для тех, кто пока не решил, стоит ли подписка на него кровных 190 руб 😊), по этой ссылке [6] можно посмотреть и послушать 18-ти минутное обсуждение 5-го выпуска альманаха из плейлиста для патронов канала на Youtube).
#ЛинзыБудущего #Футуроархеология
Фундаментальный переход от человеческого доминирования к симбиотическому миру с ИИ
Сегодня, спустя 2 недели после выхода GPT-5.3 Codex и Opus 4.6, вы найдете в сети высказывания десятков известных индустриальных экспертов, блогеров, инженеров и исследователей, описывающих этот день как переломный момент, характеризуя его как переход в новую фазу возможностей моделей: ИИ перестал быть просто инструментом и стал участником высокоуровневой рабочей деятельности (характерный пример – эссе Мэтта Шумера Something Big Is Happening с 80+ млн просмотров только на Х [1]).
И теперь, оглядываясь на главную тему публикаций «Малоизвестного интересного» в течение предшествовавшего этому поворотному моменту месяца (эта тема вынесена в заголовок данного поста), можно констатировать – футуроархеологический прогноз подтвердился.
Футуроархеология – гипотетическая дисциплина эвристических реконструкций (при взгляде как бы из будущего) ключевых трендов настоящего по их когнитивной седиментации (накоплению осадочных «когнитивных слоёв» в Интернете).
Этот «когнитивный осадок», оставляемый в инфосфере людьми, ИИ и прочими цифровыми сущностями, а также социальными и культурными сдвигами и разломами, ежемесячно анализируется мною (совместно с ИИ-Мнемозиной канала) в новых выпусках альманаха «Линзы будущего».
Сегодня опубликован 5-й выпуск альманаха со стратегическим анализом публикаций канала за январь 2026 года.
В основе проведенного анализа - ТОР 10 новых междисциплинарных исследовательских работ, выбранных мною как наиболее интересные среди 100 статей, препринтов и докладов, отобранных для меня, как наиболее перспективные, «ИИ-Мнемозиной» канала в процессе мониторинга инфосферы января 2026 (всего на радар «ИИ-Мнемозины» в январе попало более тысячи работ).
Чтобы просто просмотреть такой объем, - суток не хватит. А чтобы прочесть, проанализировать и выявить среди них самое «малоизвестное интересное», не хватит и недели.
Однако, с помощью альманаха «Линзы будущего» вы можете сделать это всего за час: поняв структуру выпуска по его ментальным картам, прочтя или прослушав текст альманаха, посмотрев и прослушав его видео-презентацию и ее обсуждение.
Итого, экономия времени весьма ощутимая (не говоря уж о некоторой «добавленной стоимости» экспертизы автора и «ИИ-Мнемозины» канала).
Так что, если вы еще не подписались на альманах «Линзы будущего», есть смысл сделать это. Просто станьте патроном канала уровня «Бронзовый», заплатив за месячную подписку на любой из предпочитаемых вами платформ [2, 3, 4, 5], как за чашку чая.
В этом выпуске альманаха раскапываются 5 слоев футуроархеологических медиа-артефактов:
1. Топология времени: от линейного прогресса к фазовому переходу «Суперкодера»
2. Новая грамматика социума: «институциональный взгляд» на ИИ, как Абсолютного Бюрократа
3. Наступление эры интеллектуальной кентавризации: гибридная наука и «гений по требованию»
4. Геополитика вычислений: асимметрия «железа» и изворотливость кода
5. Метафизический фундамент: «Жызнь» (Lyfe) и пределы симуляции
В качестве тизера этого выпуска альманаха (для тех, кто пока не решил, стоит ли подписка на него кровных 190 руб 😊), по этой ссылке [6] можно посмотреть и послушать 18-ти минутное обсуждение 5-го выпуска альманаха из плейлиста для патронов канала на Youtube).
#ЛинзыБудущего #Футуроархеология
Please open Telegram to view this post
VIEW IN TELEGRAM
👍61👎25🤔7🤯1
Создание симулякров людей и социумов уже не исследование, а бизнес
Создание симулякров людей и социумов уже не исследование, а бизнес (4 мин)
1👍17🤔5👎3
Создание симулякров людей и социумов уже не исследование, а бизнес
Фэй-Фэй Ли, Андрей Карпатый и авторы «нового стэнфордского эксперимента» вывели супероткрытие 2022 года из зоны невидимости в центр внимания.
⚡️ Аудио-версию слушайте в посте выше 👆
В 2024 мир кардинально изменился, хотя мало кто смог это осознать. Тогда с интервалом в месяц были проведены два успешных симулякровых эксперимента: Уханьский - создание симулякров коллективного бессознательного социумов и Стэнфордский - создание сумулякров индивидуального сознания «типовых» американцев (подробней здесь).
А значит возможны две супервозможности (для большого бизнеса и властей):
• прогнозирование поведения (решения, выбор, поступки) определенных групп и сообществ людей (алгоритмическое моделирование поведения);
• предупредительное воздействие на эти группы по результатам прогнозов с целью корректировки прогнозируемого поведения в желаемую сторону (социохакинг).
Удивительно, но и спустя 2 года тектонические последствия использования алгоритмического моделирования поведения (а следом и социохакинга) по-прежнему осознаются не многими.
А между тем, это фантастически перспективное направление уже превращается из исследований в бизнес.
Неделю назад стартап Simile, поддерживаемый «крёстной матерью ИИ» известным исследователем Фэй-Фэй Ли и соучредителем OpenAI Андреем Карпатый, вышла из режима невидимости (stealth), получив $100 млн инвестиций в рамках раунда, возглавляемого Index Ventures. Помимо Ли и Карпатый, в число инвесторов стартапа, пока не раскрывающего свою оценку, входят соучредитель Quora Адам Д'Анджело и партнер A24 Films Скотт Бельски, а также (какой сюрприз 😊) ведущие исследователи «нового стэнфордского эксперимента» Джун Сун Парк , Перси Лян, Майкл Бернштейн и Лейни Яллен.
Первые тесты, проведенные крупными компаниями, показывают, что платформа Simile имеет самые разные применения. Например, CVS Health пошла по пути Таллинского симулякровогой эксперимента (подробней здесь), опробовав платформу в маркетинговых исследованиях (но не на реальных покупателях, а на их симулякрах). Целью было выяснить, какие товары следует выставлять на полки и как будут продаваться имеющиеся запасы. По сути, CVS Health вместо многомесячных традиционных маркетинговых исследований, провели моделирование на ИИ-симулякрах разных групп покупателей.
В целом же спектр пилотных проектов широк: от разработки продуктов и маркетинга до формирования политик, прогнозирования судебных разбирательств и моделирования в области общественного здравоохранения.
По неофициальным данным в Simile практикуются и в социохакинге. Но открыто про это, естественно, не пишут (как минимум, пока).
P.S. Simile – не одинокий пионер при отсутствующем рынке. Есть и рынок и конкуренты.
Источники изображения: Index Ventures, Ditto
#Социохакинг #Маркетинг #Социология
Фэй-Фэй Ли, Андрей Карпатый и авторы «нового стэнфордского эксперимента» вывели супероткрытие 2022 года из зоны невидимости в центр внимания.
В 2024 мир кардинально изменился, хотя мало кто смог это осознать. Тогда с интервалом в месяц были проведены два успешных симулякровых эксперимента: Уханьский - создание симулякров коллективного бессознательного социумов и Стэнфордский - создание сумулякров индивидуального сознания «типовых» американцев (подробней здесь).
Эти два эксперимента доказали, что супер-перспективная гипотеза «Китайской комнаты наоборот» (создание алгоритмических копий любых социальных групп - подробней здесь) может быть реализована на практике.
А значит возможны две супервозможности (для большого бизнеса и властей):
• прогнозирование поведения (решения, выбор, поступки) определенных групп и сообществ людей (алгоритмическое моделирование поведения);
• предупредительное воздействие на эти группы по результатам прогнозов с целью корректировки прогнозируемого поведения в желаемую сторону (социохакинг).
Удивительно, но и спустя 2 года тектонические последствия использования алгоритмического моделирования поведения (а следом и социохакинга) по-прежнему осознаются не многими.
А между тем, это фантастически перспективное направление уже превращается из исследований в бизнес.
Неделю назад стартап Simile, поддерживаемый «крёстной матерью ИИ» известным исследователем Фэй-Фэй Ли и соучредителем OpenAI Андреем Карпатый, вышла из режима невидимости (stealth), получив $100 млн инвестиций в рамках раунда, возглавляемого Index Ventures. Помимо Ли и Карпатый, в число инвесторов стартапа, пока не раскрывающего свою оценку, входят соучредитель Quora Адам Д'Анджело и партнер A24 Films Скотт Бельски, а также (какой сюрприз 😊) ведущие исследователи «нового стэнфордского эксперимента» Джун Сун Парк , Перси Лян, Майкл Бернштейн и Лейни Яллен.
Декларируемая цель компании Simile – платформа генеративных агентов для высокоточной имитации реальных людей, предсказывая поведение индивидов и социумов в любой ситуации и в любом масштабе.Первые тесты, проведенные крупными компаниями, показывают, что платформа Simile имеет самые разные применения. Например, CVS Health пошла по пути Таллинского симулякровогой эксперимента (подробней здесь), опробовав платформу в маркетинговых исследованиях (но не на реальных покупателях, а на их симулякрах). Целью было выяснить, какие товары следует выставлять на полки и как будут продаваться имеющиеся запасы. По сути, CVS Health вместо многомесячных традиционных маркетинговых исследований, провели моделирование на ИИ-симулякрах разных групп покупателей.
В целом же спектр пилотных проектов широк: от разработки продуктов и маркетинга до формирования политик, прогнозирования судебных разбирательств и моделирования в области общественного здравоохранения.
По неофициальным данным в Simile практикуются и в социохакинге. Но открыто про это, естественно, не пишут (как минимум, пока).
P.S. Simile – не одинокий пионер при отсутствующем рынке. Есть и рынок и конкуренты.
Источники изображения: Index Ventures, Ditto
#Социохакинг #Маркетинг #Социология
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍88🤔44😱21👎9
Если оптимистичный сценарий развития ИИ реализуется..., это может стать пессимистичным сценарием для экономики всего мира
Перед вами футуроархеологическая аналитическая записка CitriniResearch Macro Memo «Глобальный ИИ-кризис 2028». В документе подробно описывается один из возможных сценариев развития разработок и внедрения ИИ в период февраль 2026 – июнь 2028, а также последствия спровоцированного этим глобального экономического кризиса.
Это сценарий, а не апокалиптический прогноз или фанфик. Вероятность такого сценария оценить невозможно. Однако, возможен стереоскопический взгляд на возможность такого сценария через линзу другой аналитической записки «Может ли передовой ИИ привести к отрицательному экономическому росту?».
Серьёзное и душещипательное чтение для тех, кто не только интеллектуально расслабляется в выходной.
#ИИриски
Июнь 2028 года. Индекс S&P упал на 38% по сравнению с максимумами. Уровень безработицы только что составил 10,2%. Частное кредитование рушится. Первоклассные ипотечные кредиты трещат по швам. Искусственный интеллект не разочаровал. Он превзошел все ожидания.
Что же произошло?
Перед вами футуроархеологическая аналитическая записка CitriniResearch Macro Memo «Глобальный ИИ-кризис 2028». В документе подробно описывается один из возможных сценариев развития разработок и внедрения ИИ в период февраль 2026 – июнь 2028, а также последствия спровоцированного этим глобального экономического кризиса.
Это сценарий, а не апокалиптический прогноз или фанфик. Вероятность такого сценария оценить невозможно. Однако, возможен стереоскопический взгляд на возможность такого сценария через линзу другой аналитической записки «Может ли передовой ИИ привести к отрицательному экономическому росту?».
Серьёзное и душещипательное чтение для тех, кто не только интеллектуально расслабляется в выходной.
#ИИриски
10👍76🤔34👎12