Все, с выходом Fable и 5.6 sol вы больше не должны понимать, что происходит у вас в коде. Не до всех еще дошло, но вы больше не software engineer, вы loop engineer

↑ Я думал, что это типичный твиттер шитпостинга, но реально начал видеть вокруг себя серьезных людей, кто так считает. Мол, раз у Бориса в антропике получается, то и мы так должны делать

Ну камон, ребят. Все же понимают, что публичные лица компаний, который продают лопаты всегда будут преувеличивать ценность этих лопат и формировать хайп, который через какое-то время действительно пушанет технологии до уровня, который они продвигали. Типичный fake it till your make it – так все технологии развиваются и всегда развивались. Но мы то с вами не обязаны собой жертвовать ради этого, ну

Почему я считаю, что сейчас это все еще не работает и хорошие инженеры должны понимать что происходит под капотом систем, которые они строят (даже если они строят их печатая/наговаривая английский/русский текст)?

Постараюсь порассуждать "из первых принципов":

Дело в том, что это всегда так и было – хороший инженер всегда понимал систему как минимум на один уровень абстракции ниже того, на котором её писал.

Хороший Python разработчик знает про GIL и 3.13, PyMalloc, сборщик мусора, ссылочную природу объектов, и что многие библиотеки написаны на других языках со своими ограничениями и возможностями. И для него код на пайтоне на самом деле раскрывается гораздо глубже чем он выглядит на первый взгляд – тот самый tacit context

Хороший C++ разработчик скорее всего знает не только про разные виды памяти, устройство умных указателей и виртуальные таблицы, но и в курсе про уровни хардварного кэша, особенности архитекутры процессора и хаки, которые использует компилятор для компиляции под эти архитекутры. И может даже знать, в какие конкретно ассемблерные инструкции раскроется его код. Понимает как треды устроены на уровне ОС, какие механизмы их переключения на уровне ядра, и как писать lock-free код

↑ Этого всего нет напрямую в синтаксисе языка. Это особенности поведения систем на гораздо более низких уровнях. И проблема в том, что если инженер их не знает, то он даже не знает чего он не знает. А значит, не узнает и о наличии проблем на этих уровнях.

В итоге прод ложится под растущей нагрузкой, баги не находятся неделями и затыкаются костылями, из-за которых прод снова ложится, но уже в следующем квартале

———

Короче, мало топить за loop enginering. Нужно понимать что в результате этих циклов получится

Так же как когда вы раньше писали цикл на C++, вы понимали, как данные будет лежать в кэше (и в каком), будут ли лишние аллокации в куче, и раскроется ли ваша числодробилка в SIMD-инструкции

В общем, это фундаментальное свойство любого профессионала – видеть систему глубже чем она описана

Подгорело, @ai_grably

Из новых не особо документированных изменений в codex агент теперь сам может ходить в соседние диалоги и даже писать в них.

↑ Это не про субагентов, это прям полноценные чаты

Пока не придумал, как это прям эффективно использовать, но знаю, что позиционируется как одна из фишек нового голосового режима – голосом можно управлять всеми своими текущими чатами

Кто уже пользуется, накидайте в комментах кейсы, пожалуйста

Найм, соревы и бабки

Одна из самых важных задач реального мира – уметь различать людей, которые что-то реально из себя представляет и тех, кто только пытается такими казаться. Причем, важно и в отношениях, и в дружбе, и в работе

И особенно важно понимать, к какой категории относишься сам и как можешь это подтвердить

Что забавно – многие хорошие на первый взгляд "метрики", на самом деле почти не работают. Например, размер ЗП часто объясняется не реальными рабочими навыками, а разницей между компаниями, рынками и ролями (а иногдачасто еще и умением подлизать кому и когда нужно)

И очень редко есть честная возможность сравнить себя с другими в относительно равных условиях. Причем, она ценна еще и потому, что на такие сравнения всегда очень внимательно смотрят те, кто принимают решение о работе с вами. Не зря Ринат @llm_under_hood выставляет это как главную причину для участия в своих соревнованиях – тех, кто занял топовые места очень быстро хайрят на топовые позиции. Очень советую поучаствовать хотя бы раз, если вы AI инженер

Но я знаю, что у меня большой кусок аудитории – не разрабатывает AI решения, а использует AI-агентов для разработки классических продуктов. И для вас тоже есть подгон.

От своих друзей HFT-шников я услышал про соревы spectral.tech и докопался до организаторов по деталям. На мой взгляд, у них получился крутой формат – чем-то с одной стороны наводящий на мысли про вот этот эксперимент, где Cursor с Nvidia оптимизировали CUDA кернелы, а с другой – на autoresearch Карпаты

Базовая суть – разработать достаточно простую систему, но так, чтобы у нее была наименьшая задержка (причем не только в среднем, а еще и в худших случаях)

Из забавного:

Вместе с участниками эту же задачу будет решать Claude-агент. Его решение будет находиться в публичном репозитории, и вы сможете использовать его как baseline.

По итогу обещают ускоренный трек найма на AI native инженера (причем не только для призовых мест и без опыта в HFT). Использовать ИИ можно и нужно (имхо, задачка явно хотя бы частично на loop engineering)

Ну и призовой фонд $12к тоже приятно

Правда без знания C++, сетей и системного программирования его вряд ли получится получить – даже sota модели пока очень плохо сами с такими задачами справляются

⏰ Дедлайн сдачи решений – 30 августа, 23:59 GMT+3

Регистрация и доступ к GitLab с задачей – @spectral_challenge_bot

Бтв, если вы знаете еще хорошие соревнования для других областей – напишите, пожалуйста мне в личку

Один из самых секси кейсов с нашего марафона по агентам – создание рабочих веб аппок с бэкендом на гугл таблицах и деплоем в одну строку без гитхабов, докеров, vps

Ребятам, которые не хотят заморачиваться с техничкой – очень нравится. Большинство сразу нашли где это использовать в своей работе

Так вот, теперь не нужно использовать внешние сервисы – openai встроили такую штуку к себе в codex

Причем реализация очень крутая – все поверх легковесных Cloudflare Workers и их же R2 storage

P.s. в claude code такого нет, их Artifacts – это тупо static page на их же домене

Разрушать систему

Недавно хайпанула волна постов, мол, раз в несколько месяцев надо полностью сносить все настройки агентов, удалять все скиллы. MCP и т.д. И пересобирать все заново. Типа, старые уже не работают и их нужно перестраивать с нуля на новых моделях

Звучит секси, но

а) 99% людей не будут этим заниматься, потому что нам всем и так есть чем заняться
б) Оказывается, что 80% того что ты переделал почти полностью повторяет то, что уже было (если до этого подходил с умом и вовремя обновлял)

Я процентов 20 своего времени трачу на эксперименты с разными подходами и инструментами, и только сейчас более-менее стал доволен тем, как оно работает и для технических задач, и для операционки. Причем, я уверен, что выстроенная система переживет еще несколько новых поколений моделей почти без изменений

Я собрал всё действительно важное в пошаговый роадмап по настройке и освоению ИИ-агентов на конец лета 2026 года

Во вторник 18.08 в 18:00 GMT+3 проведу бесплатный эфир с разбором

Еще на эфире расскажу кому и почему будет полезно поучаствовать в нашем платном марафоне, где мы за ручку проводим по этому роадмапу (доходимость на прошлом – 85%!). А кому – нет. Для таких постараюсь сделать эфир+роадмап полезными сами по себе

→ Записаться на бесплатный эфир 18 августа

MCP → CLI

Я только собирался написать, почему CLI сосут, и на что их заменять, как понял, что у меня даже нет поста, почему сосут MCP (от которых мы и ушли к CLI). Исправляю!

Сначала напомню в двух словах зачем эти ребята нам вообще нужны:

агент сам по себе мало что умеет в мире, где наши данные разбросаны по десяткам веб-приложений, начиная от почты и календаря, заканчивая транскрибаторами звонков, джирами и сервисами электронного документооборота

Нужно его к ним как-то коннектить.

И на заре агентных систем ребята придумали подсовывать ему новые инструменты как tools (то, что агент может вызывать в цикле перед тем как дать итоговый ответ). Назвали это MCP (model-context-protocol)

У стандарта MCP было много исторических болячек: невнятная аутентификация, загромождение контекста всеми методами всех mcp'шек, , отсутствие строгого следования схеме, stateful логика 🥴

Сейчас они по большей части вылечены. Но есть одна главная проблема – это все еще лишний слой абстракции поверх обычного API. То есть, вместо того, чтобы сразу дернуть API нашего условного гитхаба, обвязка агента (она выполняет роль MCP клиента) отправляет это в какой-то MCP сервер (в случае с гитхаб он удаленный, но может быть и локальным), а он уже отправляет это в API

Вместо этого, любой агент, у которого есть вызов терминала может либо просто написать скрипт, который будет обращаться к API напрямую, либо вызвать уже сто лет существующую cli-команду gh с нужными параметрами. Всё!

И вот какие у этого плюсы:

1. Жрет меньше токенов (потому что не verbose json)
2. Можно стакать вызовы команд в любой последовательности
3. Не обязательно засирать контекст модели всем выводом. Перенаправляем и фильтруем вывод терминальной команды как душе угодно
4. Обычно сильно больше комбинаций параметров
5. Если какой-то функции или параметра нет, агент все так же может написать кастомный скрипт, который сходит в API и сделает то, что нужно

Но надо признать, кое-где MCP все-таки нужны – когда у вас есть эфимерная сессия + нужна авторизация. Короче, во всех облачных чатах и коворках. CLI там не подходит по одной причине – авторизация происходит внутри сэндбокса и на каждый новый чат придется делать ее заново

Пример: gh отлично работает у вас на ноуте, но в ChatGPT Work вы задолбаетесь каждый раз проходить авторизацию, а вот GitHub MCP подключите один раз и он будет работать всегда

В разговорах слышал еще такие аргументы за MCP (но мне они не нравятся):

1. Проще раскатывать на команду и обновлять (хз, автообновление cli делается тривиально)
2. MCP сразу поддерживает инструкции, а про CLI тул агент еще должен как-то узнать (скиллы наш бро)
3. В MCP есть функции, которых нет в API (это вообще извращение, не делайте так. но если пользуетесь чужим сервисом таким, то да, тут придется страдать)

А у вас в команде используют MCP? Почему?

(напоминаю, что скоро будет пост о том, почему CLI тоже не самый лучший выбор)

@ai_grably

CLI → SDK

Выше я писал про то, почему с MCP переходят на CLI (кроме некоторых ситуаций). Сегодня – про еще один переход, которы у меня случился пару недель назад

Рассмотрим на примере коннектора к тг

У меня самописный CLI тул, куда я понемногу добавляю разные функции. Сначала я его использовал просто для того, чтобы агент отправлял текстовые нотификашки ботиком в чат. Потом добавил туда поддержку медиа. Потом отправку в другие чаты. Потом – чтение предыдущих сообщений в любом чате и парсинг каналов (тут понадобилось перенести с урезанного Bot API на полноценный телеграмный MTProto)

И каждый раз когда я прошу сделать что-то, чего в моем CLI нет – агент идет его переписывать. Как результат – я по сути воссоздаю весь интерфейс библиотеки mtcute, но в виде CLI команды. Что уже как бы попахивает лишним слоем

Так еще и интерфейс текстовой команды сильно беднее чем интерфейс SDK – нет честной типизации, объектов и т.д.

Если я хочу сделать какое-то действие в цикле, или хитро обработать вывод, то агент все равно пишет bash-скрипт поверх CLI

Так что пару недель назад, я полностью выпиливаю CLI и просто прописываю агенту, как ему использовать SDK напрямую. То есть он пишет код под задачу и сразу его запускает. А если у меня есть какие-то повторяющиеся задачи – я оставляю их в виде импортируемых TS модулей.

Теперь агент может делать что угодно, что можно делать ботом в тг. Мне не нужно заранее продумывать сценарии и постоянно обновлять код. Он сам соберет его точно под задачу из исходных модулей библиотеки, либо моих скриптов.

Тут правда я натыкаюсь на пару проблем. Основная – это то, что агент постоянно пишет временные скрипты, что убивает всю легкость, которая была у запуска CLI команды раньше. Да, он может писать код inline прям в команде, но внешние библиотеки так не установятся

Решается это достаточно просто – нужен раннер с поддержкой autoinstall

Для TS – это bun/deno, а для python – uv

Тогда команда агента выглядит примерно так:

bun --install=force run - <<'TS'
import { Api } from 'grammy'
// используем Bot API либу вместо MTProto для простоты

const { botToken } = await Bun.file(`${process.env.HOME}/.tg-agent-bot/config.json`).json()

const api = new Api(botToken)
console.log('sent:', (await api.sendMessage(373021550, 'Привет через grammY')).message_id)
TS

Проблема номер два – где хранить всякие полезные данные. Например, известные id-шники с описанием или helper-скрипты. Тут все по классике как с CLI – создаем ~/.tg-agent-bot и храним там config.json и папку со скриптами. Там же и токен бота (либо в keychain системы)

Получается, из конфигурации skill+cli мы убираем cli и просто описываем все тонким скиллом. Агент сам пишет скрипт прям в момент вызова

———

Осторожно: нет смысла использовать эту штуку, когда у вас узкая задача. Ее имеет смысл завозить, если много кейсов использования и нужна гибкость. И особенно, если нужно как-то хитро обрабатывать вызовы, собирать из них цепочки и т.д.

Тема экспериментальная, пользуюсь ей несколько недель, мб чего-то не замечаю – интересно, что думаете

Много скептицизма прилетело в комменты и даже мне в лс по посту про агентов, которые пишут код ad-hoc вместо использования готовых CLI

На самом деле очень рад – это значит, что подписчики вдумчиво читают посты и готовы делиться своим мнением. Ну и я так получаю перспективу, которую сам раньше не замечал, спасибо

А теперь еще один аргументом в сторону моей позиции, который вам может понравиться:

Понятно, что доверять какому-то экспериментальному подходу от Коли сложнее, чем официальному подходу от топовых ИИ-лаб. Так что просто посмотрите на встроенные скиллы того же кодекса. Подход, про который я пишу уже используется в большинстве из них:

Browser/Chrome – inline JS через Node REPL и browser-client
Computer Use – inline JS с @oai/sky
presentations, spreadsheets — генерируют .mjs с @oai/artifact-tool
documents – код через python-docx (но: есть готовые CLI-хелперы)
pdf – Python с reportlab/pypdf/pdfplumber

Понятно, что не нужно все переводить на этот подход

Но вот скинуть агенту мой прошлый пост и спросить, какие из ваших скиллов могут выиграть от этого подхода так же как выигрывают скиллы кодекса из этого поста – может оказаться полезным упражнением