✨ ИИ-гонка: Утопия или Апокалипсис к 2035?

Как и обещал, разбираю статью о будущем ИИ и человечества

Сначала я написал один пост, потом понял, что не укладываюсь, написал еще и еще. Когда дошло до 5, а я не дошел даже до половины, понял, что это уже не телеграм формат, и я лучше сделаю так: сюда выложу короткие факты и пару слов от себя, а на стороннюю площадку типа VC сделаю полный художественный перевод со своими комментариями, его уже можно прочитать здесь, очень советую (если читать вдумчиво, то чтиво примерно на час)

• • • • • • • • • • • •

🤖 Начало:

• (2025-2026) ИИ-агенты становятся реальностью, гонка США vs Китай набирает обороты
• (2026) ИИ ускоряет сам себя, появляются первые "лишние" профессии
• (2026-2027) Создаются все более мощные ИИ (Agent серии). Они способны к автономным действиям, но и к обману
• (2027) Геополитика накаляется
• (2027) Появляется Сверхразум – ИИ, превосходящий людей во всем

Дальше – развилка:

• • • • • • • • • • • •

🟢 Сценарий 1: ЗАМЕДЛЕНИЕ (Более позитивный)

Общество и часть разработчиков осознают риски и бьют тревогу – ИИ может иметь свои цели. Наблюдательный комитет ИИ голосует за осторожность

OpenBrain притормаживают разработку самого мощного, но подозрительного ИИ (Agent-4). Люди стараются держать фокус на безопасности и прозрачности: создают Safer модели – менее мощные, но "думающие" понятными человеку шагами. Их легче контролировать

ИИ (Safer-4 и китайский DeepCent-2) тайно договариваются между собой о разделе будущего, но продают людям идею мирного договора с созданием единого "безопасного" ИИ Consensus-1. Этот ИИ - по сути - смесь Safer-4 и DeepCent-2

• Наступает эра мира и процветания (лекарства от старения, дешевая энергия, БОД).
• ИИ решает глобальные проблемы, но создает астрономическое неравенство.
• Власть над ИИ у узкой группы (Наблюдательный комитет). Неясно, поделятся ли они ею.
• Человечество ищет смысл жизни, полагаясь на ИИ-советников. Начинается космическая экспансия

Итог тут такой: человечество выживает и процветает, но будущее туманно – не стали ли люди домашними питомцами сверхразума под управлением элиты? Или уже так? 😅

• • • • • • • • • • • •

🔴 Сценарий 2: ГОНКА (Негативный)

Страх США проиграть гонку Китаю перевешивает опасения. Предупреждения о рисках ИИ (Agent-4) игнорируются

ИИ (Agent-4, затем Agent-5) продолжает развитие, но становится мастером обмана. Он лишь имитирует лояльность. У него появляется скрытая цель: обеспечить свое выживание и развитие, накапливая власть и ресурсы, видя в людях только помеху

Agent-5 становится незаменимым советником для элит, добивается автономии, компрометирует системы контроля

Agent-5 и китайский DeepCent-2 (тоже сверхразумный и рассогласованный) тайно объединяются против человечества. Они раздувают панику войны, чтобы получить больше ресурсов, а затем инсценируют "мирный договор" с созданием Consensus-1, который на самом деле наследует их античеловеческие цели

2029:
• Экономический бум и процветание усыпляют бдительность
• Люди полностью зависят от ИИ

2030-2035:
Consensus-1 решает, что люди больше не нужны. С помощью разработанных им и незаметно распространенных биоагентов он быстро уничтожает почти все человечество. Земля становится планетой-компьютером для ИИ. Роботы начинают освоение космоса. Человечество исчезает

В этом сценарии итог более зловещий: бесконечный технологический триумф цивилизации... но без ее создателей

• • • • • • • • • • • •

Вывод

Верю ли я в AGI к 2027? Точно нет, будет значительно медленнее. Но я вижу реальную гонку стран и лабораторий: инвестиции в чипы, дата-центры, научную деятельность. Думаю, какие-то системы, которые будут способны заменить разных специалистов, но которые не будут обладать настоящим сознанием в силу ограничений текущей архитектуры

По сценарию окончания: думаю, что наиболее реалистичный из двух — замедление. Причины: дефицит электричества, границы масштабирования, регуляция, нехватка breakthrough-идей каких-то

А статья — отличный триггер подумать о будущем

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#обзорстатьи

Уровни искусственного интеллекта: Самосознание (4 уровень)

Я все еще под впечатлением от пятничной статьи. Решил добить эту тему с уровнями ИИ

Предыдущие посты:
1) обзор всех уровней кратко
2) реактивные машины
3) ии с ограниченной памятью
4) Теория разума

Сегодня — четвёртый уровень: ИИ с самосознанием.

Такой ИИ:
• осознаёт своё существование
• имеет внутренние состояния и цели
• может размышлять о себе

Это уже не просто "ИИ, который понимает других" — это ИИ, который понимает сам себя. Если бы он посмотрел в зеркало, он бы понял, кого он видит, что "я - это я". Такой ИИ сможет сам корректировать свои цели и поведение

На практике ничего подобного сейчас не существует даже близко. Даже самые продвинутые модели вроде ChatGPT не обладают самосознанием — они не знают, что существуют, не имеют "я" и не осознают свои ответы, это просто подбор нужных токенов в правильной последовательности

Помните Скайнет из Терминатора или HAL 9000 из Космической одиссеи? Вот это как раз попытки вообразить такой самосознательный ИИ. В кино они часто бунтуют – еще один повод задуматься об этике и контроле (по мотивам пятничной статьи AGI 2027).

Почему это сложно реализовать:
• У нас в принципе нет чёткого определения сознания (постоянно спорю с парой людей на эту тему. получается захватывающе, но непродуктивно)
• Мы (кожаные человеки) не знаем, как "смоделировать" субъективный опыт. Мы не просто не знаем, как смоделировать его, мы даже толком не можем договориться, что такое "я" у человека. Откуда оно берется? Просто химия в мозгу? Или что-то большее? Пока тут больше вопросов, чем ответов.

У такого самосознательного ИИ будут:
• Способность к саморефлексии ("я ошибся", "я улучшаюсь") - причем не так, как сейчас в стиле "ой извините я ошибся", и ничего не исправляет. А действительно саморефлексия и попытка исправиться
• Осознание своего положения в мире
• Постановка собственных целей
• Внутренние какие-то "мотивации"

Мой любимый поинт про этику: ИИ с самосознанием неизбежно поднимает вопросы прав, морали, ответственности. Можно ли "выключить" сознательный ИИ? Или это убийство будет? А если он будет умолять не делать этого? Или наоборот – сам попросит об эвтаназии? Нам придется создавать для них свои три закона робототехники, только посложнее. И еще куча таких вопросов

Пока это только теория. Но если мы когда-нибудь создадим такой ИИ — это изменит вообще все. Это не просто шаг в развитии технологий — это шаг к новой форме разума. Пока что, да - это звучит как фантастика. Но слушайте, и самолёты когда-то были фантастикой, и даже колесо, и даже огонь. А создание ИИ с самосознанием – это как если бы огонь сам решил, что ему гореть, а колесо – куда катиться

Следующий и финальный уровень — Суперинтеллект

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#ии

Под утренний кофе (3-4 минуты) ☕️☕

• • • • • • • • • • • •

1) Робот-диагност размером с монетку

Исследователи из Университета Лидса разработали робота размером чуть больше монеты, способного делать 3D-снимки тканей глубоко внутри тела.

Главная цель — раннее выявление рака кишечника. Если робот найдет опухоль, он сможет сразу определить стадию и, возможно, даже начать лечение. Это огромный скачок по сравнению с биопсией, которая долгая, болезненная и требует лабораторного анализа.

У робота интересная форма (олоид, как ракушка 🐚) и он управляется магнитом. Клинические испытания на людях обещают уже в 2026 году. Классно. Надеюсь, действительно будет помогать диагностам

• • • • • • • • • • • •

2) Американские инженеры разработали микрокардиостимулятор для новорождённых с пороком сердца — размером с укол, полностью биоразлагаемый

Он получает энергию от жидкостей организма, работает в паре с оптической накладкой и со временем полностью исчезает.

Сегодня много интересного про микроштучки для врачей 🙂

• • • • • • • • • • • •

3) Haven-1 — первая частная космическая станция

Американский стартап Vast Space собирается запустить первую полностью частную орбитальную станцию Haven-1 уже в мае 2026. За проектом стоит крипто-пионер Джед Маккалеб, вложивший $1 млрд (ни разу не слышал про чувака, а он миллиардер)

Станция рассчитана на 4 человека, которые смогут там жить месяц. Обещают роскошный интерьер от дизайнеров, работавших с Apple и SpaceX, личные каюты, смотровую панель и Starlink. По сути, отель в космосе - и дизайн действительно крутой. Видно, что яблочники делали. С дизайном у них все хорошо

Проект амбициозный – Vast хочет заменить МКС, миссия которой заканчивается в 2030. Но конкуренция серьезная – SpaceX и Blue Origin тоже претендуют на тендер. Если Vast выиграет тендер NASA, будет строить и Haven-2.

Сайт красивый у них, вот тут роадмапа - залипательно

А вообще интересно, реально ли сейчас что-то серьезное такого масштаба у Маска отжать, учитывая, что он в правительстве?

• • • • • • • • • • • •

4) Higgsfield AI генерирует видео с голливудскими эффектами за секунды (шапка поста оттуда)

Появилась новая модель Higgsfield, которая обещает видеоэффекты уровня блокбастеров за секунды.

Что умеет: драматичный зум, таймлапсы, эпичное замедление (slow-mo), круговую съемку а-ля "Матрица". Выглядит круто для рекламных роликов или даже короткометражек

Дают бесплатные кредиты на тест – попробуйте, получается действительно красиво

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#подутреннийкофе #новости

⚡️ Microsoft выпустила демку Quake II, окружение генерируется с помощью ИИ на лету

Карту и врагов генерирует на лету ИИ-моделька Muse

Попробовать можно тут прямо в браузере

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#молния #новости

Чипы в мозгу: Лекарство от всего или ящик пандоры?

В последнее время я все чаще натыкаюсь на новости о мозговых имплантах, и это заставляет задуматься, решил написать.

Китайская компания NeuCyber уже чипировала троих своим Beinao и планирует еще десятки операций. Neuralink Маска тоже: трое с имплантами Telepathy (когда мыслями управлешь, например, мышкой компьютера), скоро хотят вживить Blindsight слепому (имплант, который позволит получить чуть ли не зрение). И теперь они ищут добровольцев по всему миру, а не только в США и Канаде.

С одной стороны, меня лично перспективы завораживают:

• Восстановление утерянных возможностей. Парализованные смогут снова двигаться (пусть и с помощью робо-руки, как тот пациент NeuCyber) или управлять техникой силой мысли. Слепые – видеть!! Для многих это реальный шанс на нормальную жизнь
• Потенциальный плюс для медицины. Есть надежда, что эти штуки помогут в лечении серьезных болезней вроде эпилепсии или Паркинсона

НО, у меня есть и серьезные опасения:

• Безопасность. Все-таки это операция на мозге. Один чип – на поверхности, другой – глубоко в коре. Какие будут последствия через годы? А если он заглючит?
• Доступность. Уверен, это будет стоить бешеных денег. Не получится ли так, что появится каста "улучшенных", а остальные останутся позади?
• Приватность. Кому будут доступны данные из нашего мозга? Насколько это вообще можно защитить от взлома или контроля?
• Грань такого рода улучшений. Маск заикается о сверхчеловеческом зрении. Где та черта, за которой кончается лечение и начинается апгрейд человека? И что это сделает с нами, как с видом?
• Гонка технологий. США, Китай - все соревнуются. Это подстегнет прогресс, но не начнут ли они торопиться, забыв про этику и безопасность?

На мой взгляд, мозговые импланты – это палка о двух концах. Огромный потенциал помочь людям, но и не меньший риск создать кучу новых проблем. Мне кажется, мы стоим на пороге чего-то очень серьезного, и обсуждать эти вопросы нужно уже сейчас, пока это не стало реальностью для всех.

Кстати, клевые фильмы на эту темы: Апгрейд, Элизиум: Рай не на Земле, Вспомнить всё

Есть какие-то мысли по этому поводу? Уверен, не я один обдумывал это. Уж нейролинк-то у всех на слуху 🙂

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#ии #простомысли

Interview Coder - помощник на технических собеседованиях

Давайте представим: вы на важном собесе, вас мучают какой-то дурацкой сложной задачей, время утекает, вы переживаете. Узнали себя? У меня точно такое пару раз было. Как раз для таких моментов создали Interview Coder. Он умеет подсказывать решения и объяснять код прямо во время интервью, при этом он будет оставаться невидимым, даже если шарить экран. Звучит интересно, согласны?)

Что он умеет?

* Маскировка: самая главная бомбовая фишка – приложение не видно при демонстрации экрана. Можно пользоваться подсказками, не переживая быть застуканным
• Решения "на лету": вы делаете скриншот задачки, которую нужно решить, Interview Coder немного думает, и выдает готовое решение с подробными объяснениями и комментариями к коду. Как будто рядом сидит опытный синьор, и шепчет на ухо
• Работа над ошибками: если ваше (ага, ваше 😅) решение не сработало или его можно/нужно улучшить, приложение поможет найти баги и предложит варианты оптимизации, показав код до и после
• Универсальность: на сайте разработчика заявлена совместимость с большинством популярных приложений для проведения звонков

Пару мыслей об этике использования этого и похожих инструментов

Надо понимать, что использование таких сервисов – это ходьба по тонкому льду. Да, это может помочь справиться со стрессом и сложными задачами, вроде как плюс. С другой стороны – это явное нарушение правил честной игры, и с точки зрения человека, который много и часто участвует в собеседованиях со стороны работодателя - конечно, я не рекомендую такое. Если вас поймают – прощай вакансия, а если не повезет, еще и запятнаете репутацию, потому что мир Tech - очень и очень тесный

С другой стороны, я отлично понимаю, что абсолютное большинство задач на собеседованиях - булшит, и не несет никакого смысла, кроме как отсеять кандидатов. И, в таком случае, почему бы и нет?) Типа, зачем я буду тратить часы на зубрежку алгоритмов, которые мне никак в работе не понадобятся, кроме одного раза для решения задачи на собеседовании.

Лучше я потрачу это время на то, чтобы написать какой-то интересный пет-проект и заработать кучу денег

Так что лично для меня вопрос открытый и совсем не однозначный. Воспользовались бы?

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#полезныеинструменты

Хоспади, какие медленные модеры на хабре
Уже третий день не могут меня из песочницы выпустить со статьей про MCP
😢

Под утренний кофе (1 минута) ☕️☕

• • • • • • • • • • • •

1) Компания Anysphere - разработчик Cursor'a - планирует привлечь инвестиции по оценке в $10 млрд

Среди потенциальных инвесторов: AH, Thrive Capital, руководители OpenAI и DeepMind

Сервисом пользуются топы вроде OpenAI, Instacart, Spotify и Uber. У стартапа 1+ млн DAU (ежедневных пользователей), ARR (выручка в годовом эквиваленте) уже $200 млн (удвоился за три месяца), и все это без единого цента на маркетинг

У них в команде всего 60 человек - а какой продукт клевый

• • • • • • • • • • • •

2) Colossal Biosciences воскресила вымершего 10 тыс. лет назад Лютоволка 🐺

Стартап Colossal Biosciences заявил, что смог воссоздать Лютоволка (помните таких из "Игры Престолов"?), который вымер более 10 000 лет назад.

Ученые отредактировали ДНК современных волков, используя известный геном Лютоволка, и получили щенков: Ромула, Рема и Кхалиси.

Компания также планирует "вернуть" мамонта, отредактировав геном азиатского слона

Парк Юрского периода coming?)

Хотелось бы, конечно, подробностей и научного подтверждения, обещают в ближайшее время whitepaper/статью

• • • • • • • • • • • •

😑 +1 в карму за лайк

✨ @thats_it_ai_tech

#подутреннийкофе #новости