Контролируемые галлюцинации
1.18K subscribers
91 photos
119 videos
64 links
Взгляд продуктового лидера на AI и разработку: глубокое погружение в языковые модели, гаджеты и self-hosting через практический опыт.
Download Telegram
🌟 GPT-5.3-Codex-Spark, Sonnet 4.6 и китайский MoE-десант

Шесть флагманских релизов за неделю. Разбираемся, кто реально продвинулся, а кто просто обновил бенчмарки.

🌟 GPT-5.3-Codex-Spark, результат партнёрства OpenAI с Cerebras. Заявляют 1000+ tok/sec. Судя по видео, модель работает очень быстро. Контекст 128K (у обычного Codex 400K). Groq и Cerebras уже делают быстрый инференс нормой.

Если следующая полноценная модель OpenAI с мощностями Cerebras даст хотя бы 200-300 tok/sec, это может убить главного конкурента в лице Anthropic. Сейчас мы выбираем модель, которая лучше пишет код, но потом будет просто некомфортно работать с моделью, которая выдает 70-80 tok/sec. Как я рассказывал на прошлой неделе, Opus 4.6 Fast в 2.5 раза быстрее обычного Опуса, но в 6 раз дороже. OpenAI за скорость отдельно не берёт, но, чтобы попробовать, нужна подписка Pro за $200.

С момента релиза GPT-5.3-Codex и Opus 4.6 в начале февраля, в твиттере не утихает холивар, всё не могут решить, какая модель лучше. Если вы тоже заинтересовались, вот, по моему мнению, неплохое сравнение. Лично у меня впечатления от этих моделей ровно такие же.

🌟 OpenAI нанял Питера Штайнбергера, создателя OpenClaw. Он возглавит направление персональных агентов. Комьюнити негодует. Сэм Альтман назвал его гением. А Meta обиделась, что не получилось захантить гения, и релизнула Manus Agents. Очень похоже, что вдохновились OpenClaw.

🌟 И пока я это всё писал, Anthropic выпустили Sonnet 4.6. По бенчмаркам подбирается к Opus, а на некоторых задачах (офисная работа, финансовый анализ) даже обходит. Серьёзно улучшили computer use: модель стабильнее управляет интерфейсами и реже ломается на длинных сессиях. Agentic coding 79.6%, почти как у Opus (80.8%). Контекст 1M в бете (ну а где же еще). На следующей неделе постараюсь подбить реальные отзывы о модели.

Не забывайте, что у OpenAI действует акция: Codex доступен даже на бесплатном тарифе и Go, а тем, у кого подписка уже есть, дали увеличенные лимиты. Можно создать новый аккаунт и, если повезет, получите предложение на подписку Plus за ноль рублей ноль копеек.

Anthropic тоже не отстает: 11 февраля был релиз Claude Cowork для Windows, а также на бесплатном тарифе стали доступны функции, за которые раньше приходилось платить. Если не пробовали - попробуйте.

🌟 А что Китай? Qwen3.5 от Alibaba: 397B параметров, 17B активных. GLM-5 от Z-ai: 744B параметров, 40B активных. Принцип один: архитектура MoE хранит знания огромной модели, но при инференсе работает маленькая часть. Нагрузка на GPU как у 17-40B, а на бенчмарках конкурируют с Opus. Также ходят слухи о скором релизе DeepSeek v4. Здесь я рассказывал про современные архитектуры LLM.

🌟 Unsloth выпустил кастомные Triton-ядра для обучения MoE-моделей. В 12 раз быстрее стандартного обучения, на 35% меньше VRAM, без потери точности.

🌟 Seedance 2.0 от ByteDance показал, что text-to-video перешёл порог в "а это точно не настоящее?". Но вместе с качеством приходят вопросы: модель распознала блогера по лицу и воссоздала его голос.

🌟 Про бенчмарки. Новые китайские модели показывают 70-80% на SWE-Bench Verified. Впечатляет, пока не посмотришь на SWE-rebench. Это более свежий бенчмарк, специально сделанный так, чтобы ответы нельзя было найти в интернете: задачи из репозиториев, которых не было в обучающих данных. Флагман типа Opus 4.6 выдает 51,7%, а китайские "убийцы" сгруппировались в отметке ~40%. SWE-bench превратился в ЕГЭ, где побеждает тот, кто прорешал больше КИМов, а не тот, кто лучше пишет код.

🌟 Qwen-Image-2.0 сжался с 20B до 7B без потери качества, нативное 2K, рендеринг текста. Мне очень нравится, куда движется генерация изображений, а началась эта магия в августе.

🌟 Если на этой неделе у вас есть время попробовать только одну вещь, попробуйте Codex на бесплатном тарифе, пока акция действует. А если две, сравните его с Claude Code на одной и той же задаче. Выводы могут удивить.

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.

#галлюцинации_недели
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍30🔥11❤8
🌟 Gemini 3.1 Pro, Sonnet 4.6 в бою и новый дом llama.cpp

Google бросает перчатку, Anthropic сканирует чужой код, а моделям выдают фудтраки и деньги на бизнес. Приглядимся ко всему по порядку.

🌟 Google выпустил Gemini 3.1 Pro. Как обычно, мы видим красивые бенчмарки: ARC-AGI-2 77%, SWE-Bench Verified 80,6%. По соотношению цены и заявленного качества модель очень интересная, а ещё она умеет такое.

В реальной работе не всё гладко. Бывший сотрудник Google на HN написал, что Gemini "самая раздражающая модель для разработки": ненужные рефакторинги, непрошенные комментарии, потеря контекста. На Reddit жалуются на нерф через пару дней после запуска. В Gemini CLI агенты уходили в бесконечные циклы, пытаясь обновить себя до несуществующих версий.

Заодно Google запустил Lyria 3, генератор музыки внутри Gemini. Промпт → 30-секундный трек с вокалом, маркируется SynthID. Можно выбрать стиль и замиксовать, получается интересно.

И ещё один тихий запуск от Google: Pomelli Photoshoot. Загружаешь фото продукта со смартфона, получаешь студийные снимки: на белом фоне, в интерьере, с AI-моделью. Бесплатно, работает на Nano Banana. Для малого бизнеса это замена фотосессии за $500. Пока доступно только в США, Канаде, Австралии и Новой Зеландии.

🌟 Про релиз Sonnet 4.6 я писал на прошлой неделе, теперь появились реальные отзывы. Хвалят: лучше следует инструкциям, меньше оверинжинирит, код читается как написанный человеком. Cursor написал, что модель лучше на длинных задачах, но "по интеллекту ниже Opus 4.6". Главная боль: расход токенов вырос в ~4.5 раза по сравнению с Sonnet 4.5.

Anthropic запустил Claude Code Security, сканер уязвимостей на Opus 4.6. Работает не по паттернам, а читает код как исследователь. Инструмент в research preview, только для Enterprise. Рыночек отреагировал: CrowdStrike -8%, Cloudflare -8%, Zscaler -5.5%. В Твиттере писали, что Anthropic "съел весь обед индустрии AppSec". Но инфосек-комьюнити уже привыкло паниковать.

🌟 Георгий Герганов объявил, что ggml.ai присоединяется к Hugging Face. llama.cpp, проект, который в 2023-м запустил революцию локальных моделей, теперь получил инфраструктуру HF и остаётся open source. HF также объявил коллаборацию с Unsloth для бесплатного файнтюнинга на платформе.

🌟 Появились забавные "бизнес-бенчмарки". FoodTruck Bench: моделям дают $2000 и фудтрак в Остине на 30 дней. Opus 4.6 финишировал с $49.5K. GPT-5.2 на втором месте с $28K. 10 из 16 моделей обанкротились. Gemini Flash зависает в бесконечном цикле. Человек тоже может поиграть. На Vending Bench 2 (вендинговый автомат, $500, год) Opus финишировал с ~$8K, Gemini 3 Pro с ~$5.5K.

🌟 Андрей Карпаты рассказал, как Claude реверс-инженерит API беговой дорожки и строит кастомный дашборд. Его тезис: приложения становятся одноразовыми, а ценность переходит к сервисам с AI-совместимыми API.

🌟 Unitree показал роботов на национальном ТВ Китая. Синхронное кунг-фу, кластерная координация. Boston Dynamics нервно курит.

🌟 AI-кодер Amazon Kiro решил, что лучший способ починить баг, это удалить и пересоздать продакшн-среду. Итог: 13 часов без AWS.

🌟 Grok 4.20 оказался четырьмя Grok 4.1 в пальто (буквально, в API видно grok-4-1-thinking). Плюс скандал: модель использует Маска как первоисточник по спорным темам.

🌟 Стартап Taalas показал ASIC-чип с Llama 3 8B на 16,000 tok/s. Модель залита прямо в кремний, 53 млрд транзисторов. Попробовать можно тут.

🌟 Тема, о которой мало говорят: один и тот же Opus 4.6 на LangChain и на Claude Code показал 1.7x разницу в скорости. OpenAI уже пишет про harness engineering как новую дисциплину. Идея простая: модели сближаются по качеству, а разница в результатах определяется инфраструктурой вокруг них. Как агент управляет контекстом, выбирает инструменты, восстанавливается после ошибок.

🌟 Кстати, в FoodTruck Bench Opus продавал куриные крылышки по $16 за порцию. И продал 826 штук. Вот вам и harness engineering.

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.

#галлюцинации_недели
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍16🔥9❤8🌭2🕊1
🌟 Pentagon vs Anthropic, Qwen 3.5 и кризис идентичности Claude

Claude Sonnet думает, что он DeepSeek, Pentagon думает, что Anthropic угроза, а Perplexity запустил компьютер. Нам остается только жить свою лучшую жизнь и наблюдать за прогрессом недели.

🌟 Anthropic обвинила DeepSeek, Moonshot AI и MiniMax в промышленной дистилляции Claude. 24 тысячи фейковых аккаунтов, больше 16 миллионов запросов к модели. По сути, китайские лабы скачивали Claude по кусочкам, чтобы научить свои модели делать то же самое.

🌟 В это время Claude Sonnet 4.6 поймал кризис идентичности и начал отвечать на китайском, что он DeepSeek. Где Sonnet учился, DeepSeek преподавал.

🌟 Главная история недели — Pentagon vs Anthropic. Министр обороны Хегсет дал Anthropic дедлайн до пятницы: снять safety guardrails с Claude для массовой слежки и автономного оружия. Anthropic отказала. Pentagon объявил компанию угрозой цепочке поставок и начал шестимесячный вывод из военных контрактов. OpenAI тут же заключили собственную сделку с Department of War. Альтман уточнил, что контракт запрещает слежку за американцами. За остальными, видимо, нет.

Реакция пользователей оказалась жёсткой. Приложение ChatGPT начали массово удалять с устройств. Claude взлетел на первое место в App Store. Anthropic тут же запустили Switch to Claude, страницу для миграции с ChatGPT с сохранением памяти и контекста. Forbes написал гайд "что сделать перед отменой подписки ChatGPT". Весы качнулись, и Anthropic явно хочет забрать аудиторию, пока окно открыто.

🌟 Google тихо выпустил Nano Banana 2 (Gemini 3.1 Flash Image Preview). Первое место в Image Arena, 4K upscaling, консистентность между субъектами, генерация с учётом поиска в реальном времени. Качество на уровне Nano Banana Pro, скорость выше, а цена чуть ниже: $0.101 за 2K-картинку против $0.134 у Pro. Для тех, кому нужна массовая генерация картинок, это прям подарок.

🌟 Alibaba выпустила Qwen 3.5, полную линейку от 0.8B до 397B. Архитектура новая: Gated DeltaNet, где 75% слоёв используют линейное внимание вместо обычного. Контекст 262K из коробки, расширяется до 1M. Все модели нативно мультимодальные, 201 язык.

Я давно ждал новое поколение компактных моделей от Qwen и в первый же день поставил себе Qwen 3.5 9B GGUF от Unsloth. Но настоящий герой недели, это 35B-A3B. На RTX 3090 выдаёт больше 100 t/s с контекстом 130K, а на 5090 люди разгоняют до 180 t/s. 27B тоже хорош, 9B конкурирует с моделями в разы крупнее, а 2B запустили на iPhone. Вот ссылка на приложение.

🌟 LM Studio запустил LM Link — подключаешь удалённый GPU-сервер через Tailscale, E2E-шифрование, никаких открытых портов. А если своего железа нет, Packet.ai продаёт Blackwell RTX 6000 по $0.66/час, B200 по $2.25/час.

🌟 Perplexity запустил Computer, прямо как я после школы в 2004. Это платформа, которая оркестрирует 19 разных моделей. Каждая получает задачу, в которой она лучше всех, суб-агенты работают параллельно, usage-based pricing. Пока доступно на тарифе Max за $200/мес.

🌟 Кстати, презентацию новых Galaxy смотрели? Все блогеры дружно хайпят новый privacy display и horizon lock.

🌟 Саймон Виллисон начал новый проект Agentic Engineering Patterns, гайд по работе с coding agents. Очень рекомендую его блог.

🌟 OpenAI официально отказался от SWE-Bench Verified. Аудит показал, что 59.4% задач содержали ошибки в самих тестах, а топовые модели уже помнят ответы из тренировочных данных. Я раньше писал, что SWE-Bench Verified изжил себя, приятно видеть подтверждение.

🌟 Неделя получилась такая, что хватит на целый сезон Silicon Valley. Кстати, как вам обновленная заставка?

Расширенную версию поста ищите на сайте. Там, кстати, небольшой редизайн.

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.

#галлюцинации_недели
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍22🔥8❤7
🌟 GPT-5.4, MacBook на M5 Max и 630 строк, которые автоматизируют ML-ресёрч

Очередной флагман от OpenAI с миллионным контекстом, Claude делает code review, Google обновляет свою быструю малютку, новый MacBook для локального инференса. А что Титов? 🇷🇺

🌟 OpenAI выпустил GPT-5.4 и GPT-5.4 Pro одновременно, что для них нетипично, обычно Pro-версия появляется через пару недель. Это первая модель семейства 5.x, которая объединяет код и интеллектуальные задачи в одном месте. Контекст до 1M токенов, нативный computer use.

Но есть нюансы. Контекст в миллион токенов не означает миллион полезных токенов: на 16-32K точность ~97%, на 256-512K падает до 57%, а на 512K-1M уже 36% (источник). Плюс к этому, в Codex после 272K потребление увеличится вдвое. То есть реальный потолок так и остаётся где-то в районе 256K. В Codex также появился режим /fast, дающий до 1.5x ускорение генерации в обмен на двойное потребление.

🌟 Наконец-то выпустили Codex для Windows с нативным sandbox на уровне ОС (ACL, restricted tokens, выделенные пользователи).

🌟 Anthropic запустил Claude Code Review, мультиагентную систему, где параллельные агенты ищут проблемы, верифицируют находки и ранжируют по серьёзности. И тут же в треде Anthropic написали, что одно ревью стоит примерно $15-25. OpenAI моментально подхватил. А следом и Cognition добавила.

🌟 Google выкатил Gemini 3.1 Flash-Lite. Регулируемый thinking level, где ты сам выбираешь баланс между интеллектом и скоростью. Заявлено больше 360 tok/sec и миллионный контекст. Да, стало дороже по сравнению с предшественником Gemini 2.5 Flash-Lite: $0.25/$1.50 за миллион токенов. Я с удовольствием переключил на новую модель свой суммаризатор и переводчик.

🌟 Андрей Карпаты выложил autoresearch, репозиторий на ~630 строк. AI-агент в цикле сам меняет параметры, запускает эксперимент, смотрит на результат и пробует снова, без участия человека. За ~700 таких итераций агент нашёл 20 улучшений, которые сократили время обучения GPT-2 на 11%. Ещё в декабре 2025-го Yi Tay ввёл в оборот термин vibe training для подобного подхода: ты не смотришь, что агент меняет, просто проверяешь метрики.

🌟 Про модели Qwen 3.5 я рассказывал на прошлой неделе, 9B всё ещё трудится на моей машинке. Но на этой неделе важнее другое: команду покинул технический лидер, а за ним ещё несколько ключевых людей, включая Hui Binyuan (lead Qwen Code), который ушёл в Meta. На замену Alibaba наняла Zhou Hao из Google DeepMind. CEO Alibaba Cloud пообещал продолжить open source стратегию, но когда уходят люди, обещания стоят дешевле кода.

🌟 Apple представила новые MacBook на M5 Pro и M5 Max. M5 Pro: до 64GB единой памяти, 307GB/s пропускной способности памяти. M5 Max: до 128GB, 614GB/s. SSD до 14.5GB/s (вдвое быстрее M4). Главная цифра для нас: обработка промптов LLM до 4x быстрее M4. Для тех, кто гоняет модели локально, это самое значимое обновление года.

🌟 Релиз, который зацепил реакцией сообщества: Microsoft Copilot Cowork. В релизе на сайте написано: "Тесно сотрудничая с Anthropic, мы интегрировали технологию Claude Cowork в Microsoft 365 Copilot". Так вы же вроде с OpenAI в десна целовались? В треде с анонсом сразу видно, как пользователи относятся к Copilot.

🌟 Арифметика на закуску. На странице Codex видно 5-часовые лимиты GPT-5.4: Pro за $200 даёт 223–1120 сообщений, Plus за $20 — 33–168. Семь аккаунтов Plus за $140 дают 231–1176. Если пользуетесь Codex, можно сэкономить $60. Вот ссылка как это реализовать. Думайте.

Расширенную версию поста ищите на сайте.

Если зашел контент, не забывайте на него реагировать. Подписывайтесь на канал, делитесь статьей с друзьями и оставайтесь любопытными.

#галлюцинации_недели
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤14👍9🔥6👀2