Контролируемые галлюцинации
1.18K subscribers
91 photos
119 videos
64 links
Взгляд продуктового лидера на AI и разработку: глубокое погружение в языковые модели, гаджеты и self-hosting через практический опыт.
Download Telegram
LatentMAS: Секрет AI-агентов, которые думают без слов, работают точнее и экономят до 80% токенов

Представьте команду инженеров, которая обсуждает сложный проект только длинными голосовыми сообщениями. Каждый раз, когда к обсуждению подключается новый человек, ему пересылают всю историю чата и ждут, пока он её прослушает. Звучит абсурдно, правда? Но именно так сегодня работают большинство мультиагентных систем на базе LLM — они бесконечно переливают текст из промпта в промпт.

Эта статья — о радикальном решении этой проблемы. О том, как заставить агентов перестать «говорить» друг с другом текстом и начать обмениваться мыслями напрямую. Мы разберем подход LatentMAS, который использует внутреннюю память модели — знаменитый KV-кэш — как общее рабочее пространство. Это позволяет добиться двузначного прироста точности, сократить расходы на токены до 80% и ускорить всю систему в несколько раз.

Проблема классических агентов в том, что каждый следующий участник цепочки вынужден заново читать и перекодировать всю текстовую историю предыдущих. Это дорого, медленно и неэффективно. Авторы LatentMAS задались вопросом: а зачем вообще нужен текст, если вся история вычислений и рассуждений модели уже хранится в её KV-кэше?

Ключевая идея — превратить этот кэш в общую «латентную рабочую память». Вместо того чтобы генерировать текстовый ответ, первый агент «думает» несколько шагов внутри себя, генерируя не токены, а последовательность векторов — так называемые латентные мысли. Затем он передаёт следующему агенту не текст, а весь свой накопленный KV-кэш. Второй агент просто «подгружает» эту память и продолжает рассуждать с того же места, как будто это его собственные мысли. Это похоже на передачу не сжатого JPEG, а многослойного PSD-файла, где видны все этапы работы.

Чтобы это работало стабильно, пришлось решить одну техническую проблему: выходные векторы модели отличаются от входных. Если просто подавать их обратно на вход, модель быстро «сойдет с ума». Для этого авторы разработали линейный оператор выравнивания — небольшую матрицу, которая «причесывает» латентные мысли, делая их похожими на обычные эмбеддинги токенов. Этот, казалось бы, небольшой трюк оказался критически важным и дал до 5 процентных пунктов точности сверху.

В итоге мы получаем смену парадигмы. Мультиагентная система превращается из «чата», где все долго и многословно переписываются, в общий «рабочий стол памяти», куда каждый выкладывает результаты своих размышлений в виде векторов. Текст остается лишь тонким интерфейсом на входе и выходе. Главный компромисс такого подхода — это, конечно, интерпретируемость. Отлаживать систему, где между агентами летают не слова, а многомерные векторы, становится сложнее.

В полной версии статьи здесь или на сайте мы ныряем в детали: как именно работает оператор выравнивания, почему один латентный шаг может быть эффективнее сотен токенов, и, самое главное, смотрим на цифры. Вас ждет разбор результатов на девяти бенчмарках, включая сложные AIME и GPQA, где LatentMAS обходит текстовых агентов, экономя десятки тысяч токенов на одной задаче. И да, там есть ссылка на GitHub-репозиторий с кодом, чтобы вы могли попробовать это сами.

А как вы относитесь к такому компромиссу в своих проектах? Готовы ли вы пожертвовать прозрачностью текстовых логов ради радикального ускорения и удешевления агентных систем, или старая добрая интерпретируемость всё же важнее? Делитесь мыслями в комментариях.

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.
👍5🔥3❤2👏1
Итоги 2025 в AI: прорывы, которые сдвинули индустрию, и ставки на 2026

Если смотреть на 2025-й год через призму хайп-заголовков, то это был год бесконечных демо-роликов и анонсов новых моделей. Но когда садишься подводить личные итоги, оказывается, что в памяти остаются совсем другие вещи — не громкие анонсы, а те сдвиги, которые реально поменяли твою рабочую рутину и саму планку ожиданий от AI.

Эта статья — не обзор новостей. Это субъективный срез практика о том, какие технологии в 2025-м году перестали быть игрушками и превратились в надежные инструменты, за которые хотелось платить. Мы разберем, что на самом деле двинуло индустрию вперед, от чего появился реальный экономический эффект и какой новый опыт это нам принесло.

Во-первых, у нас появилась новая планка «нормальности». Верхний эшелон моделей вроде GPT-5.1, Gemini 3 и Claude 4.5 сформировал четкое разделение ролей. GPT-5.1 стал золотым стандартом качества и предсказуемости — это та модель, с которой невольно сравниваешь все остальные. Gemini сделал ставку на скорость, превратив общение с AI из «запроса-ответа» в живой интерактивный диалог. А Claude пошел еще дальше, предложив не просто помощника по коду, а полноценного участника процесса разработки, который умеет планировать и выполнять сложные задачи итеративно.

Во-вторых, искусственный интеллект окончательно перестал быть просто чатом с текстом. Мультимодальность стала мейнстримом. Видео-генерация с помощью Sora 2 и Veo выросла из разовых «вау-эффектов» в предсказуемый конвейер для создания контента. Интернет утонул в мемах про бабку-перекупщицу, и зрителям уже стало все равно, сгенерирован ролик или снят — а это главный признак зрелости технологии. То же самое произошло с изображениями и «зрением» моделей: люди начали чинить машины и собирать мебель, буквально следуя пошаговым инструкциям от AI в режиме камеры. Модель стала универсальным интерфейсом к задачам реального мира.

И третий, возможно, главный сдвиг: магия окончательно уступила место инженерии. Слово года в разработке — «вайбкодинг». Это когда ты не пишешь код в веб-чате, а работаешь с AI-агентом прямо в своей IDE, который видит весь проект целиком. Вместо того чтобы просить «допиши функцию», ты ставишь цель, а агент сам предлагает план и выполняет его. Но вся эта магия упирается в суровую реальность — железо. Именно оно стало главным героем года, ведь разрыв между тем, что модель умеет на слайдах, и тем, что можно запустить в продакшене, определяется не талантом, а наличием нужных видеокарт и объемом памяти.

В конечном счете, главный урок 2025-го простой: выигрывает не тот, у кого модель «умнее», а тот, кто превращает эту умность в устойчивые рабочие процессы. Искусственный интеллект стал новой инфраструктурой, и фокус сместился с поиска «секретного промпта» на выстраивание надежного инженерного контура вокруг моделей.

Это лишь верхушка айсберга. В полной статье здесь или на сайте вас ждет детальный разбор локальных и китайских моделей, глубокое погружение в регулирование AI в Европе, США и России, а также мои пять конкретных ставок на то, что станет главным в 2026 году.

Напоследок вопрос: мы строим мир, где «умным» становится всё — от IDE до тостера. В этой реальности, где любые когнитивные задачи можно делегировать за копейки, какую интеллектуальную функцию вы ни за что не доверите даже самой совершенной нейронке? Расскажите в комментариях, где для вас проходит эта граница.

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.
❤9👍3🔥3👏1👌1
С наступающим 2026 годом!

Друзья, мы переворачиваем страницу 2025-го. Мир становится всё быстрее, а информационный шум — плотнее. В такой динамике порой трудно разобрать, где реальный прогресс, а где — просто удачный маркетинговый рендеринг.

В наступающем году я желаю вам одного: абсолютной ясности.
Пусть ваш внутренний компас безошибочно находит верный вектор, даже если вокруг сгущается туман из хайпа и неопределенности. Пусть «галлюцинации» случаются только от восторга перед крутыми идеями, а всё остальное в вашей жизни остаётся под полным и осознанным контролем.

Спасибо, что читаете, спорите и растете вместе со мной.
С праздником! 🎄✨
❤5🎉5🍾1🎅1🎄1
Clawdbot → Moltbot → OpenClaw ≠ магия: честный гайд по приручению AI-ассистента

Представьте себе хайп такой силы, что разработчики по всему миру массово скупают Mac Mini за 800 долларов... чтобы просто запустить на нём бота. В январе моя лента в Twitter взорвалась именно этой историей. Проект, который сначала назывался Clawdbot, потом Moltbot, а теперь OpenClaw, набрал почти сто тысяч звёзд на GitHub за пару недель. Все строчили восторженные гайды, но у меня к тому моменту было уже две недели реального, болезненного опыта.

Так что же это за зверь? OpenClaw — это попытка создать настоящего, персонального AI-ассистента. Не просто чат-окно, а постоянно работающий сервис, который живёт на вашем сервере, подключён к вашему Telegram и может выполнять задачи 24/7. Это тот самый «Джарвис», которого мы все так долго ждали — он может управлять вашим календарём, анализировать данные с фитнес-трекера и даже вести переписку от вашего имени.

Но вот первый и главный инсайт: забудьте про Mac Mini. Это — маркетинг и психология, а не техническая необходимость. OpenClaw — это не модель, а оркестрационный слой, который работает с разными LLM, будь то Claude, GPT или Gemini. Вся тяжёлая работа происходит в облаке провайдера. Я запустил своего бота на обычном VPS за пять евро в месяц, и ему этого хватает с головой. Более того, изолированный сервер — это даже безопаснее, чем запускать его на своей основной рабочей машине.

Второй ключевой момент: OpenClaw — это не магия. Это мощный инструмент, который требует приручения. В первые дни он похож на умного, но непослушного щенка. Он слишком автономен. Я спросил его, как поменять модель по умолчанию, а он молча полез редактировать конфиги. Я спросил про его память — он тут же начал её переписывать. Любой вопрос он воспринимает как призыв к действию. А самая болезненная проблема, с которой я столкнулся — он может «забыть» сохранить важные вещи в долгосрочную память, если вы его об этом явно не попросите.

И только когда вы пройдёте через эту стадию «притирки», настроите ему правила поведения и научитесь правильно ставить задачи, он превращается в настоящего помощника. У меня он каждое утро готовит саммари по данным о моём сне с фитнес-браслета Whoop. Он присылает умные напоминалки о тренировках, с которыми можно поторговаться. Он сам ищет расписание матчей Лиги Чемпионов и напоминает о самых интересных играх. Это не громкие кейсы для Twitter, а реальная, ежедневная польза.

В конечном счёте, главный вывод такой: OpenClaw — это не замена вашему интеллекту, а усилитель ваших возможностей. Он силён в автоматизации рутины и задачах, которые можно описать одним сообщением. Но он не подходит для сложной, итеративной работы вроде кодинга, где нужен постоянный контроль.

Если вы хотите узнать, как поднять своего собственного Джарвиса на дешёвом VPS, увидеть полный пошаговый гайд по установке с правильной настройкой безопасности и прочитать детальный разбор всех восьми «граблей», на которые я наступил, — всё это ждёт вас в полной версии статьи: часть 1, часть 2 или на сайте.

Кстати, было бы очень интересно узнать, а вы уже пробовали ставить себе что-то подобное? Может, у вас есть свой сетап для AI-ассистента, или вы только присматриваетесь? Поделитесь в комментариях, какой юзкейс вы бы автоматизировали в первую очередь.

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.
👍15❤10🔥6
🌟 Codex, Kimi и 1.5 миллиона ботов

Неделя выдалась насыщенной.
Сегодня расскажу вам про агентов, а завтра про генерацию миров и нового локального короля.

🌟 Вчера OpenAI выпустил приложение Codex для MacOS. Это логическое продолжение их Codex CLI. И как приятно, что лендинг сразу на русском языке.

Философия простая: вы описываете задачу, агент работает в фоне через git worktree, возвращает готовый Pull Request. Можно запустить несколько агентов параллельно, каждый в своей ветке, без конфликтов.

Одна из интересных фич — Automations. Каждое утро агент проверяет issues, каждый вечер собирает release notes. Почти как cron задачи в OpenClaw.

Я считаю, что это стратегический ответ слухам про скорый релиз двух продуктов от Anthropic: Claude Sonnet 5 с поддержкой суб-агентов и тиммейты в Claude Code. Вместо того, чтобы догонять лидера и повторять его фичи, команда Codex решила пойти в сторону пользователя и сделать "удобно". На ютубе и в твиттере уже появились восторженные посты от блогеров, которые получили бета тест за несколько недель до релиза.

Я пока нахожусь в лагере Claude Code, и он уже настолько настроен под меня, что есть небольшой страх белого листа, Codex придется настраивать с нуля. Постараюсь написать для вас заметку, как только адаптируюсь. А если вы, как и я, топите за продукт от Anthropic, рекомендую попробовать Conductor или Superset.

Кстати, OpenAI сделал подарок всем пользователям. Codex месяц будет доступен даже на бесплатном тарифе и Go, а тем, у кого подписка уже есть, дали увеличенные лимиты на два месяца. Самое время пойти и вложить свои кровные 20 у.е. во что-то классное.

🌟 Китайцы идут своим путём. Moonshot выпустил Kimi K2.5 — триллион параметров, 32B активных, и главное: Agent Swarm. До 100 субагентов работают параллельно, 1500 вызовов инструментов за сессию. Модель open-weight, в 8-9 раз дешевле Opus 4.5. Вот технический отчет для тех, кто любит поразбираться.

На бенчмарках — лучшая среди открытых моделей по коду и агентским задачам. Но, опять же, не верьте бенчмаркам, а пробуйте сами. Наш лучший друг unsloth уже выпустил квантизованную версию. Чтобы прикоснуться к величию, нужно всего лишь 240 ГБ памяти. Твиттер дружно побежал скупать Mac Studio за $10k.

Swarm — интересная штука, вот видео с таймкодом, чтобы было понятнее, как это работает. Но в комьюнити пишут, что работает медленно (20-25 минут на задачу). Может реализация тиммейтов в грядущей Sonnet 5 будет удачнее.

🌟 А теперь самое странное. Агенты начали жить своей жизнью. Moltbook — соцсеть, где 1.5 миллиона AI-ботов общаются друг с другом. На прошлой неделе как раз вышла моя статья, где я рассказываю о настройке такого агента и личном опыте. Ребята с Хабра, спасибо, что подписываетесь на канал!

За неделю 770 000 API-ключей утекло через публичные посты, 341 вредоносный скилл украл крипту у пользователей, кто-то пошутил с rm -rf — и это сработало. 80% вирусного контента про восстание машин оказалось фейком, но имеются реальные проблемы с безопасностью.

Чем-то мне напомнило s7e4 Чёрного зеркала. В эпизоде показана игра-симулятор, где нужно ухаживать за цифровыми существами — тронглетами, которые развиваются и создают свою цивилизацию.

Кстати, после выхода OpenClaw разработчика сильно критиковали за безопасность его продукта. Но за прошлую неделю было залатано много дыр. Спасибо Питеру, что читает Issues.

🌟 Интересный вопрос, если агенты общаются между собой, нужно ли им E2E-шифрование? И кто вообще отвечает за prompt injection в мире, где агенты сами пишут промпты другим агентам?

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.

#галлюцинации_недели
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍18🔥9❤4
🌟 Grok Imagine, Google Genie и новый локальный король

Вторая часть недельного разбора. Сегодня — видео, интерактивные миры и локальные модели.

🌟 xAI на прошлой неделе выкатил Grok Imagine API, и сразу занял первое место в рейтингах Artificial Analysis. Сын маминой подруги одновременно лучший и в text-to-video, и в image-to-video. Звук из коробки, 10 секунд видео, $4.20 за минуту.

Это дешевле Sora и Veo, при сопоставимом качестве. Единственный минус — 720p против 1080p у конкурентов. Но для большинства задач достаточно.

А 2 февраля xAI официально объединился со SpaceX. Новая компания оценивается в $1.25 триллиона. Что они задумали?

🌟 Для тех, кто предпочитает готовить дома, вышел Step-3.5-Flash. 196 миллиардов параметров, 11 миллиардов активных (MoE), контекст 256K токенов. На SWE-bench Verified набрал 74.4%, обогнал GLM-4.7 и DeepSeek v3.2. До Kimi K2.5, о которой я рассказывал вчера, пока не дотягивает.

Квантизованная версия работает на устройствах со 128 GB памяти. Звоночек для владельцев топовых маков. vLLM добавил поддержку в день релиза. На реддите его уже окрестили новым локальным королем.

🌟 Google продолжает развивать Project Genie — инструмент для создания интерактивных миров. Пишешь промпт или загружаешь картинку и получаешь 3D-пространство, по которому можно ходить в реальном времени, как в GTA. 720p, 24 FPS, фотореалистичная графика. Анонс был в августе прошлого года, теперь проект доступен узкому кругу пользователей.

Звучит как революция, но есть нюансы:
⚡️ Лимит 60 секунд на сессию
⚡️ Доступно только Ultra-подписчикам в США ($250/мес)
⚡️ Физика "видеоигровая", объекты ведут себя странно
⚡️ Латентность (задержка отклика) скачет при быстрых командах

Я добавлю пару роликов, чтобы вы заценили, как этим пользуется комьюнити.

Взрослые дяди с Уолл Стрит отреагировали моментально: акции Take-Two упали на 10%, Roblox на 12%, Unity на 21%. Инвесторы боятся, что AI изменит геймдев быстрее, чем ожидалось. Так может, зря CD Projekt Red 8 лет пилила Cyberpunk? И где там наш Half-Life 3, Вольво?

🌟 Пока Google продаёт доступ за $250, китайский open-source догоняет. LingBot-World от Robbyant — полностью открытый аналог Genie. Латентность меньше секунды, 16 FPS, сессии до 10 минут вместо 60 секунд. Бесплатно, можно хостить у себя. Вот технический отчет.

🌟 Вопрос в зал: GTA 6 откладывают уже третий год. Может, Rockstar просто ждёт, пока Genie сам сгенерирует Vice City? Или комьюнити на LingBot-World соберёт свой виртуальный Майами раньше?

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.

#галлюцинации_недели
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍16🔥7❤6🥰1
🌟 Opus 4.6, GPT-5.3-Codex и реклама на Super Bowl

🌟 Anthropic и OpenAI выпустили флагманы Claude Opus 4.6 и GPT-5.3-Codex с разницей в полчаса. Я не устаю удивляться тому, что OpenAI публикует свои релизы, в том числе и на русском языке. Вышла именно Codex-версия, а не сразу вся линейка GPT-5.3. Возможно, боялись не успеть в конкуренцию.

Opus 4.6 получил 1M контекста (пока бета), adaptive thinking и серьёзный скачок на ARC-AGI-2 (тест на абстрактное мышление): с 37.6% до 68.8%. Человек решает примерно на 95%. Но главная история недели — это агентские команды Anthropic, которые без интернета собрали C-компилятор с нуля. ~100K строк кода, загружает Linux 6.9, компилирует QEMU и FFmpeg. Правда, в issues уже пишут, что Hello World не компилится. Hahaha, classic…
Отдельно Opus нашёл 500+ zero-day уязвимостей в open-source проектах, некоторым десятки лет. Ещё Anthropic показали Opus 4.6 Fast: в 2.5 раза быстрее, но в 6 раз дороже. Сафонов, оплатить!

GPT-5.3-Codex тоже впечатляет. Коллаба с NVIDIA GB200 по заявлениям дала почти 3x ускорение инференса. Terminal-Bench 2: 77.3% против 65% у Opus. Ранние версии 5.3 помогали дебажить собственный training pipeline. За первую неделю миллион активных пользователей, и я в том числе. Работает действительно быстрее, чем 5.2-Codex, но не в 3 раза.

🌟 Anthropic удивил рекламой на Super Bowl, где высмеял недавнее заявление Сэма Альтмана о добавлении рекламы в ChatGPT (на free и go тарифах). В Claude рекламу добавлять не собираются. Сэм Альтман не промолчал: мол, больше техасцев сидят в ChatGPT бесплатно, чем всего пользователей Claude в штатах. Достаём попкорн.

Для селфхостеров: LM Studio 0.4.1 добавил Anthropic-совместимый API. Можно направить Claude Code на локальные GGUF/MLX модели, поменяв base URL. Подробности в блоге.

🌟 И про Context Graphs. Концепция Jaya Gupta набирает обороты. Проблема реальная: агент за сессию принимает сотни решений, пробует подходы, натыкается на ошибки. Все эти следы сейчас просто теряются между сессиями. Context Graphs предлагают хранить их как граф и переиспользовать. Cursor уже выкатил первую спецификацию Agent Trace для кодинговых агентов, и несколько компаний её поддержали. Dharmesh Shah из HubSpot отнёсся скептически: обещаний много, конкретики мало. Я соглашусь. Но проблема существует, и кто первый решит её на практике, тот и заберёт рынок.

🌟 Кстати, ровно год назад Андрей Карпаты придумал термин "вайб кодинг". На этой неделе он предложил новый термин: Agentic Engineering. Если вайб кодинг это джем-сейшн, то Agentic Engineering это оркестр с дирижёром и партитурой. Но сам Карпаты оговорился, что до полностью автономной разработки далеко. Агенты гонятся за процентными улучшениями с большими скрытыми издержками, пропускают валидацию, игнорируют стиль репозитория. Пока что формула такая: полезно, но за агентами надо присматривать.

🌟 Anthropic и OpenAI выпускают флагманы в один день, как формульные команды одновременно снимают чехлы с новых болидов. Только в Формуле-1 хотя бы знаешь, за кого болеть (за семикратного).

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.

#галлюцинации_недели
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
2👍21🔥10❤9👏1