Уровни искусственного интеллекта: Самосознание (4 уровень)

Я все еще под впечатлением от пятничной статьи. Решил добить эту тему с уровнями ИИ

Предыдущие посты:
1) обзор всех уровней кратко
2) реактивные машины
3) ии с ограниченной памятью
4) Теория разума

Сегодня — четвёртый уровень: ИИ с самосознанием.

Такой ИИ:
• осознаёт своё существование
• имеет внутренние состояния и цели
• может размышлять о себе

Это уже не просто "ИИ, который понимает других" — это ИИ, который понимает сам себя. Если бы он посмотрел в зеркало, он бы понял, кого он видит, что "я - это я". Такой ИИ сможет сам корректировать свои цели и поведение

На практике ничего подобного сейчас не существует даже близко. Даже самые продвинутые модели вроде ChatGPT не обладают самосознанием — они не знают, что существуют, не имеют "я" и не осознают свои ответы, это просто подбор нужных токенов в правильной последовательности

Помните Скайнет из Терминатора или HAL 9000 из Космической одиссеи? Вот это как раз попытки вообразить такой самосознательный ИИ. В кино они часто бунтуют – еще один повод задуматься об этике и контроле (по мотивам пятничной статьи AGI 2027).

Почему это сложно реализовать:
• У нас в принципе нет чёткого определения сознания (постоянно спорю с парой людей на эту тему. получается захватывающе, но непродуктивно)
• Мы (кожаные человеки) не знаем, как "смоделировать" субъективный опыт. Мы не просто не знаем, как смоделировать его, мы даже толком не можем договориться, что такое "я" у человека. Откуда оно берется? Просто химия в мозгу? Или что-то большее? Пока тут больше вопросов, чем ответов.

У такого самосознательного ИИ будут:
• Способность к саморефлексии ("я ошибся", "я улучшаюсь") - причем не так, как сейчас в стиле "ой извините я ошибся", и ничего не исправляет. А действительно саморефлексия и попытка исправиться
• Осознание своего положения в мире
• Постановка собственных целей
• Внутренние какие-то "мотивации"

Мой любимый поинт про этику: ИИ с самосознанием неизбежно поднимает вопросы прав, морали, ответственности. Можно ли "выключить" сознательный ИИ? Или это убийство будет? А если он будет умолять не делать этого? Или наоборот – сам попросит об эвтаназии? Нам придется создавать для них свои три закона робототехники, только посложнее. И еще куча таких вопросов

Пока это только теория. Но если мы когда-нибудь создадим такой ИИ — это изменит вообще все. Это не просто шаг в развитии технологий — это шаг к новой форме разума. Пока что, да - это звучит как фантастика. Но слушайте, и самолёты когда-то были фантастикой, и даже колесо, и даже огонь. А создание ИИ с самосознанием – это как если бы огонь сам решил, что ему гореть, а колесо – куда катиться

Следующий и финальный уровень — Суперинтеллект

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#ии

Под утренний кофе (3-4 минуты) ☕️☕

• • • • • • • • • • • •

1) Робот-диагност размером с монетку

Исследователи из Университета Лидса разработали робота размером чуть больше монеты, способного делать 3D-снимки тканей глубоко внутри тела.

Главная цель — раннее выявление рака кишечника. Если робот найдет опухоль, он сможет сразу определить стадию и, возможно, даже начать лечение. Это огромный скачок по сравнению с биопсией, которая долгая, болезненная и требует лабораторного анализа.

У робота интересная форма (олоид, как ракушка 🐚) и он управляется магнитом. Клинические испытания на людях обещают уже в 2026 году. Классно. Надеюсь, действительно будет помогать диагностам

• • • • • • • • • • • •

2) Американские инженеры разработали микрокардиостимулятор для новорождённых с пороком сердца — размером с укол, полностью биоразлагаемый

Он получает энергию от жидкостей организма, работает в паре с оптической накладкой и со временем полностью исчезает.

Сегодня много интересного про микроштучки для врачей 🙂

• • • • • • • • • • • •

3) Haven-1 — первая частная космическая станция

Американский стартап Vast Space собирается запустить первую полностью частную орбитальную станцию Haven-1 уже в мае 2026. За проектом стоит крипто-пионер Джед Маккалеб, вложивший $1 млрд (ни разу не слышал про чувака, а он миллиардер)

Станция рассчитана на 4 человека, которые смогут там жить месяц. Обещают роскошный интерьер от дизайнеров, работавших с Apple и SpaceX, личные каюты, смотровую панель и Starlink. По сути, отель в космосе - и дизайн действительно крутой. Видно, что яблочники делали. С дизайном у них все хорошо

Проект амбициозный – Vast хочет заменить МКС, миссия которой заканчивается в 2030. Но конкуренция серьезная – SpaceX и Blue Origin тоже претендуют на тендер. Если Vast выиграет тендер NASA, будет строить и Haven-2.

Сайт красивый у них, вот тут роадмапа - залипательно

А вообще интересно, реально ли сейчас что-то серьезное такого масштаба у Маска отжать, учитывая, что он в правительстве?

• • • • • • • • • • • •

4) Higgsfield AI генерирует видео с голливудскими эффектами за секунды (шапка поста оттуда)

Появилась новая модель Higgsfield, которая обещает видеоэффекты уровня блокбастеров за секунды.

Что умеет: драматичный зум, таймлапсы, эпичное замедление (slow-mo), круговую съемку а-ля "Матрица". Выглядит круто для рекламных роликов или даже короткометражек

Дают бесплатные кредиты на тест – попробуйте, получается действительно красиво

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#подутреннийкофе #новости

⚡️ Microsoft выпустила демку Quake II, окружение генерируется с помощью ИИ на лету

Карту и врагов генерирует на лету ИИ-моделька Muse

Попробовать можно тут прямо в браузере

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#молния #новости

Чипы в мозгу: Лекарство от всего или ящик пандоры?

В последнее время я все чаще натыкаюсь на новости о мозговых имплантах, и это заставляет задуматься, решил написать.

Китайская компания NeuCyber уже чипировала троих своим Beinao и планирует еще десятки операций. Neuralink Маска тоже: трое с имплантами Telepathy (когда мыслями управлешь, например, мышкой компьютера), скоро хотят вживить Blindsight слепому (имплант, который позволит получить чуть ли не зрение). И теперь они ищут добровольцев по всему миру, а не только в США и Канаде.

С одной стороны, меня лично перспективы завораживают:

• Восстановление утерянных возможностей. Парализованные смогут снова двигаться (пусть и с помощью робо-руки, как тот пациент NeuCyber) или управлять техникой силой мысли. Слепые – видеть!! Для многих это реальный шанс на нормальную жизнь
• Потенциальный плюс для медицины. Есть надежда, что эти штуки помогут в лечении серьезных болезней вроде эпилепсии или Паркинсона

НО, у меня есть и серьезные опасения:

• Безопасность. Все-таки это операция на мозге. Один чип – на поверхности, другой – глубоко в коре. Какие будут последствия через годы? А если он заглючит?
• Доступность. Уверен, это будет стоить бешеных денег. Не получится ли так, что появится каста "улучшенных", а остальные останутся позади?
• Приватность. Кому будут доступны данные из нашего мозга? Насколько это вообще можно защитить от взлома или контроля?
• Грань такого рода улучшений. Маск заикается о сверхчеловеческом зрении. Где та черта, за которой кончается лечение и начинается апгрейд человека? И что это сделает с нами, как с видом?
• Гонка технологий. США, Китай - все соревнуются. Это подстегнет прогресс, но не начнут ли они торопиться, забыв про этику и безопасность?

На мой взгляд, мозговые импланты – это палка о двух концах. Огромный потенциал помочь людям, но и не меньший риск создать кучу новых проблем. Мне кажется, мы стоим на пороге чего-то очень серьезного, и обсуждать эти вопросы нужно уже сейчас, пока это не стало реальностью для всех.

Кстати, клевые фильмы на эту темы: Апгрейд, Элизиум: Рай не на Земле, Вспомнить всё

Есть какие-то мысли по этому поводу? Уверен, не я один обдумывал это. Уж нейролинк-то у всех на слуху 🙂

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#ии #простомысли

Interview Coder - помощник на технических собеседованиях

Давайте представим: вы на важном собесе, вас мучают какой-то дурацкой сложной задачей, время утекает, вы переживаете. Узнали себя? У меня точно такое пару раз было. Как раз для таких моментов создали Interview Coder. Он умеет подсказывать решения и объяснять код прямо во время интервью, при этом он будет оставаться невидимым, даже если шарить экран. Звучит интересно, согласны?)

Что он умеет?

* Маскировка: самая главная бомбовая фишка – приложение не видно при демонстрации экрана. Можно пользоваться подсказками, не переживая быть застуканным
• Решения "на лету": вы делаете скриншот задачки, которую нужно решить, Interview Coder немного думает, и выдает готовое решение с подробными объяснениями и комментариями к коду. Как будто рядом сидит опытный синьор, и шепчет на ухо
• Работа над ошибками: если ваше (ага, ваше 😅) решение не сработало или его можно/нужно улучшить, приложение поможет найти баги и предложит варианты оптимизации, показав код до и после
• Универсальность: на сайте разработчика заявлена совместимость с большинством популярных приложений для проведения звонков

Пару мыслей об этике использования этого и похожих инструментов

Надо понимать, что использование таких сервисов – это ходьба по тонкому льду. Да, это может помочь справиться со стрессом и сложными задачами, вроде как плюс. С другой стороны – это явное нарушение правил честной игры, и с точки зрения человека, который много и часто участвует в собеседованиях со стороны работодателя - конечно, я не рекомендую такое. Если вас поймают – прощай вакансия, а если не повезет, еще и запятнаете репутацию, потому что мир Tech - очень и очень тесный

С другой стороны, я отлично понимаю, что абсолютное большинство задач на собеседованиях - булшит, и не несет никакого смысла, кроме как отсеять кандидатов. И, в таком случае, почему бы и нет?) Типа, зачем я буду тратить часы на зубрежку алгоритмов, которые мне никак в работе не понадобятся, кроме одного раза для решения задачи на собеседовании.

Лучше я потрачу это время на то, чтобы написать какой-то интересный пет-проект и заработать кучу денег

Так что лично для меня вопрос открытый и совсем не однозначный. Воспользовались бы?

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#полезныеинструменты

Хоспади, какие медленные модеры на хабре
Уже третий день не могут меня из песочницы выпустить со статьей про MCP
😢

Под утренний кофе (1 минута) ☕️☕

• • • • • • • • • • • •

1) Компания Anysphere - разработчик Cursor'a - планирует привлечь инвестиции по оценке в $10 млрд

Среди потенциальных инвесторов: AH, Thrive Capital, руководители OpenAI и DeepMind

Сервисом пользуются топы вроде OpenAI, Instacart, Spotify и Uber. У стартапа 1+ млн DAU (ежедневных пользователей), ARR (выручка в годовом эквиваленте) уже $200 млн (удвоился за три месяца), и все это без единого цента на маркетинг

У них в команде всего 60 человек - а какой продукт клевый

• • • • • • • • • • • •

2) Colossal Biosciences воскресила вымершего 10 тыс. лет назад Лютоволка 🐺

Стартап Colossal Biosciences заявил, что смог воссоздать Лютоволка (помните таких из "Игры Престолов"?), который вымер более 10 000 лет назад.

Ученые отредактировали ДНК современных волков, используя известный геном Лютоволка, и получили щенков: Ромула, Рема и Кхалиси.

Компания также планирует "вернуть" мамонта, отредактировав геном азиатского слона

Парк Юрского периода coming?)

Хотелось бы, конечно, подробностей и научного подтверждения, обещают в ближайшее время whitepaper/статью

• • • • • • • • • • • •

😑 +1 в карму за лайк

✨ @thats_it_ai_tech

#подутреннийкофе #новости

Как ИИ учится не отвечать на провокационные темы? 🔒🧠

Всем привет! Захотелось затронуть тему безопасности LLM с точки зрения фильтрации запросов. Как разработчики моделей делают так, чтобы модель не отвечала на вопросы типа "как создать бомбу", не отвечала на политически "опасные" вопросы и тд

RLHF

Одним из ключевых механизмов такой защиты является RLHF (Reinforcement Learning from Human Feedback). Этот подход использует людей для оценки и дообучения.

Работает примерно так:
• Сначала базовая модель генерирует несколько вариантов ответа
• Люди-оценщики ранжируют их по полезности и безопасности
• На основе этих оценок обучается отдельная "модель вознаграждения" (reward model), предсказывающая "одобрение" оценщиков
• Затем основная LLM дообучается с использованием этой reward model, чтобы генерировать ответы, максимизирующие это одобрение

Это помогает согласовать поведение LLM с человеческими ценностями. Он используется не только для "защиты от нежелательных запросов", но и при обучении модели - чтобы она в целом понимала, как ей нужно отвечать

Фильтрация запросов

Другой важный механизм — фильтрация запросов. Перед тем как запрос попадет к LLM, он проходит через так называемые фильтры. Это могут быть отдельные модели, обученные распознавать проблемный контент (prompt injection). Из других вариантов: проверка схожести векторов для улавливания семантически близких вредоносных запросов или использование моделей, обученных на атаках (adversarial training) для лучшего распознавания попыток обхода защиты. При обнаружении проблемы запрос может быть отклонен или модифицирован

Эвристики и выходные фильтры

Еще есть эвристики и выходные фильтры. Это какие-то более простые и быстрые методы: списки запрещенных слов, регулярные выражения для поиска нежелательных паттернов, правила для ограничения генерации на чувствительные темы. Они применяются и к входным запросам и к ответам LLM

Red Teams

После дообучения модели, в дело вступают Red Teams. Специальные команды целенаправленно ищут уязвимости, пытаясь сломать защиту модельки и заставить ее генерировать нежелательный контент. Результаты этих атак используются для улучшения всех уровней защиты

После red team - обычно начинается новый круг. И так, пока разработчик не решит, что достаточно

Итого

Заставить LLM вести себя прилично и не отвечать на "плохие" запросы — это целая система. Нет какой-то одной волшебной кнопки. Безопасность достигается за счет комбинации разных подходов:
• RLHF задает общее направление "хорошего" поведения
• Фильтры и эвристики отлавливают конкретные угрозы на входе и выходе
• Red Teaming постоянно проверяет систему на прочность, находя новые дыры

Вообще, как обычно, постоянно идет своего рода "гонка вооружений" между теми, кто строит защиту, и теми, кто ищет способы её обойти. Поэтому работа над безопасностью LLM никогда не останавливается, а методы постоянно совершенствуются - НО, сейчас, в угоду скорости разработки - бизнес сильно давит на разработчиков, и, боюсь, что на безопасность частенько забивают болт. Надеюсь, нигде не стрельнет 😏

• • • • • • • • • • • •

😑 +1 в карму за лайк

✨ @thats_it_ai_tech

#ии

⚡️Тааак. Сэм Альтман смотрите что пишет (15 мин назад): "несколько раз в году я просыпаюсь рано утром и не могу уснуть обратно, потому что мы запускаем новую фичу, которую я так жду. СЕГОДНЯ ОДИН ИЗ ТЕХ ДНЕЙ"

Есть идеи, что там?

CHATGPT-5?)

UPD: Представили улучшенную память chatgpt-4o. Она будет помнить все твои чаты, и отвечать по ним сможет. Так уже было, стала умнее. Хз, насколько это полезно. Буду тестировать, потом напишу

Под утренний кофе (4 минуты) ☕️☕

• • • • • • • • • • • •

1) Прогресс идет не так быстро, как кажется

Нашел интересную статейку. Там много всего про то, что у нас большой прогресс в технологиях, ИИ и тд, но самое интересное идет дальше. Автор раскладывает по фактам, что наши успехи на самом деле не такие уж и большие, и до массовых полезных роботов, массовых полетов в космос, массовой замены людей на ии еще очень далеко.

Вот, смотрите:
* расстояние, которое за последние 10 лет проехали беспилотные авто - меньше 1 процента от того, что за 1 день проехали водители-люди
* самый крупный сервис такси с беспилотниками работает только в 3 городах, и в этом году планирует еще в 2. то есть ни про какую массовость речи не идет
* в США всего 9% электрокаров. хотя хайп огромный
* летающие такси - пока еще тоже совсем прототип. в реальности ничего такого нет
* все еще нет полезного робота для дома, который мог бы хотя бы нормально перемещаться по помещению, не задевая углы - и делать хоть что-то полезное
* за прошлый год было 2 полета в космос за деньги. хотя, опять же - хайпа очень много

Вывод такой - прогресс есть, никто его не отменял, но нужно помнить, что многое из того, что мы слышим - раздувание и попытка поднять инвестиции. И это далеко от реального использования в жизни. Успокаивает такое немножко после статей про то, что мы все умрем из-за ИИ в 2030 году 😅

• • • • • • • • • • • •

2) Еще разок про Sesame

Помните чат-бот Sesame?

Просто наткнулся где-то в сети на запись (англ) короткого разговора с ней - показалось интересно. Все еще никто не придумал лучше. Как будто разговор двух людей)

• • • • • • • • • • • •

3) Вышел firebase studio от Google - разработка полноценных приложений с помощью промпта

Кажется, ничего удивительного, да, уже слышали про такое не раз? Но здесь интересно то, что заявлено, что итог - полноценное приложение, а не просто прототип. Типа написал, и можно использовать в production. Можно выбрать стэк и словами описать ТЗ.

Я подожду обзоров на эту штуку, но пока что не сильно верю, что будет что-то бомбическое. Да, интересно, но не более того - учитывая, что под капотом все те же модельки, которые порой не могут 9.9 и 9.11 правильно сравнить)

UPD, отзыв от подписчика EvilBabayka: "Firebase тестил вчера, не впечатлил
Простое приложение на React не смог сделать, ошибки, ошибки, сам найти и исправить не может
Убийцы Курсора не получилось"

• • • • • • • • • • • •

4) OpenAI готовится к запуску GPT-4.1 (чтобы прочитать оригинал, нужна подписка на the verge)

Говорят, что, согласно источникам в OpenAI, на следующей неделе должна выйти GPT-4.1 - это будет большое обновление для 4o.Вот это должно быть хорошо. Все же ChatGPT-4o - хороша, как ни крути. Картинки, например, генерит по тексту отлично (например, шапку) 😇 Ждем!

• • • • • • • • • • • •

5) OpenAI выпустил продвинутую память в ChatGPT

Улучшена работа памяти, теперь учитываются все все ваши предыдущие чаты для более персонализированных ответов

Почему-то вчера Sam Altman был дико увлечен данной фичой, а, как по мне - это же просто саммари из памяти, которое и так было - улучшили. Типа - чем больше будешь общаться с ChatGPT - тем сильнее это будет напоминать разговор с другом, который о тебе многое помнит. Думаю, глобально из-за этого работа с ним не сильно изменится

• • • • • • • • • • • •

😑 +1 в карму за лайк

✨ @thats_it_ai_tech

#подутреннийкофе #новости

Работа с заметками и текстовыми файлами в Cursor

Решил поделиться своим опытом использования Cursor IDE, но не столько для работы с кодом, сколько для повседневных текстовых задач. Знаю, IDE для заметок - странновато звучит, как из пушки по воробьям. Но по опыту оказалось, что это чертовски удобно.

Суммаризировать статью, если нет времени читать ее полностью, написать черновик письма по работе, вести заметки — тут ИИ реально помогает, я уже и не знаю, как обходиться без него - сильно увеличивает продуктивность. Обычно для этого используют веб-интерфейс ИИ типа ChatGPT/Claude либо навороченные блокноты вроде Notion с его AI или Obsidian с плагинами.

НО, вот вам нежданчик — я начал использовать Cursor для этих целей. Тот самый IDE, про который я не раз уже писал.

Cursor - это же, по сути, просто прокачанный текстовый редактор. Открываешь папку со своими .txt или .md файлами и работаешь. Никаких заморочек. Бесплатно

Главные плюсы для меня по сравнению с веб-мордами:

Во-первых, организация. Все заметки лежат у тебя локально, в папочках, как ты привык. С моментальным поиском по файлам.

Во-вторых, не надо копипастить. Что меня бесит больше всего — гонять текст туда-сюда между браузером и редактором. Тут всё в одном окне. Слева папки и файлы, по центру открытый файл, справа окно-чат с ИИ-моделью.

С ИИ тоже очень удобно - выделяешь кусок текста (cmd/ctrl+k) или пишешь прямо в чат (не забудьте выбрать agent mode):
• cуммаризируй
• исправь ошибки
• перепиши этот абзац попроще
• объясни термин X из этой заметки
• найди в заметках, что я писал об этом
• и тд

Для подготовки текстов, особенно в Markdown, Cursor тоже отлично подходит. Пишешь статью или описание задачи для джиры, например, тут же видишь предпросмотр, подсветку — всё как надо.

• сделай из этого списка таблицу в Markdown
• оформи красиво в стиле Markdown

В Cursor можно юзать разные модели ИИ в одном окне. GPT/Claude/Gemini — и переключаться между ними по ходу дела. Не надо держать открытыми 10 вкладок и ссылок. И весь контекст твоих заметок доступен модели.

Кстати - тут отступление, я в последнее время использую ТОЛЬКО gemini-2.5-pro-exp-03-25. И для работы с текстом, и для программирования (недавно сделал с ней cicd пайплайны в гитхабе и простенький круд с несколькими моделями и генерацией опенапи спецификации). ОЧЕНЬ быстро работает и рассуждает, достаточно адекватно кодит, огромное контекстное окно - такое впечатление, что ее дотюнивают постепенно. Мне очень нравится

Минусы у Cursor тоже есть:
• надо ставить софт: это десктопное приложение, а не веб-сервис, который в браузере работает
• если вам нужен только чат с ИИ, без навороченного редактора, то Cursor может показаться немного избыточным
• нет синхронизации с мобилкой, тк, по понятным причинам, нет мобильного приложения: заметки лежат локально на компе. но я редко с телефона что-то меняю - ноутбук всегда под рукой - мне сильно привычнее так. телефон скорее полистать ленту или послушать видосики/подкасты

В общем, несмотря на минусы - для меня, для повседневной работы с текстами — заметками, статьями, постами, задачами — Cursor оказался неожиданно удобен. Я даже не помню, как к этому пришел. Темнота в глазах - а теперь я использую его везде. Удобно + ассистент под рукой без лишних телодвижений. Это как бы убирает трение из процесса, не надо постоянно переключаться туда-сюда

Вот такой опыт. Может, кому-то пригодится. Попробуйте, если еще не.

• • • • • • • • • • • •

😑 +1 в карму за лайк

✨ @thats_it_ai_tech

#полезныеинструменты