Хекслет

Как сэкономить токены? Или почему модель не обязана быть самой большой, чтобы быть эффективной. Разбираем на примере Claude.

Владислав Сукманюк — наставник на курсах LLM-разработчик и PHP-разработчик в Хекслете и Senior-бекенд разработчик/тимлид. Он приоткрыл завесу тайны, какую модель все-таки выбирать, чтоб при этом не разориться на токенах.

Самая большая модель стоит дороже за каждый токен и обычно отвечает медленнее. Для сложной задачи эта цена оправдана, однако в реальной работе много простых шагов: прочитать файл, найти строку, переименовать переменную, собрать сводку из логов.

Меньшая модель тоже с ними отлично справляется, и разница в качестве на результате не видна. Зато заметна разница в счёте, во времени ожидания и в том, как быстро кончаются лимиты подписки. Если на каждый шаг ставить самую сильную модель, вы переплачиваете за возможности, которые на этих шагах не используются.

При этом у моделей нет одной ультимативно лучшей по всем параметрам. Их сравнивают по качеству рассуждений, скорости, цене, размеру контекстного окна и доступности у нужного провайдера. Причем это все еще и может быть динамично + зависит от задачи.

Обычно выигрыш по одному параметру стоит проигрыша по другому. Поэтому запрос в поисковике «лучшая ии модель 2026» не поможет — всегда нужно понимать, с чем именно предстоит работать.

Аналогия про инструменты всегда спасает: можно ведь сказать, что отбойный молоток сильнее забьёт металлический предмет в другой предмет. Но без уточнения, что именно и куда забивать, неправильный инструмент в неправильном месте может обрушить здание.

Поэтому правильнее спрашивать, какой модели хватит для конкретного шага. Для планирования архитектуры это одна модель, а для grep по репозиторию другая.

В Claude Code этот подход можно настроить. Основной диалог работает на модели, которую вы выбрали для сессии, и она отвечает на каждый шаг, пока вы её не смените. Разнести работу по моделям можно несколькими способами.

/model переключает модель вручную. Новая модель отвечает начиная со следующего запроса.

opusplan включает Opus в plan mode, а на выполнении переключается на Sonnet.

Субагенты с полем model для экономии. Даже документация называет экономию одной из причин их использовать: задачи можно отдавать более быстрым и дешёвым моделям вроде Haiku.

Пример:

---
name: log-reader
description: Читает логи и возвращает сводку ошибок
tools: Read, Grep, Glob
model: haiku
---

Обязательны только name и description. В model можно указать sonnet, opus, haiku, fable, полный ID модели или inherit.

А ещё есть такая штука как Advisor. Claude по ходу задачи консультируется со второй, обычно более сильной моделью, например, перед выбором подхода, при повторяющейся ошибке, или перед тем как объявить задачу готовой.

Советник получает весь разговор, включая все вызовы инструментов и их результаты. Когда именно вызвать советника, решает сама модель. Включается командой /advisor opus.

Возьмём пару Sonnet и Opus-советник. Sonnet выполняет рутину, а планирование, непонятные падения и проверку завершения отдаёт Opus. Советника вызывают на развилках, а не на каждом шаге, поэтому быстрая основная модель с сильным советником обычно обходится дешевле, чем сильная модель на всю сессию.

Но есть ограничение: функция экспериментальная и на текущий момент работает только через Anthropic API. Советник должен быть не слабее основной модели. Haiku может звать советника, но сам советником быть не может (по старшенству это opus sonnet haiku). А если выключено получение feature flags, например, переменной DISABLE_TELEMETRY, advisor тоже не включится.

Telegram | YouTube | AI Клуб

👍6❤1🔥1💯1👾1

1.71K viewsedited 10:48