💳 Databricks: как удержать расходы на ИИ-кодинг

Databricks опубликовала разбор того, как крупные инженерные команды справляются с экспоненциальным ростом счетов за агентный кодинг. Материал основан на их собственном опыте и разговорах со Stripe, Coinbase, Uber и Ramp; попал в топ Hacker News.

Главный тезис — гнаться нужно не за intelligence frontier, а за efficiency frontier: набором моделей с лучшей ценой при достаточном для повседневного кода качестве. Эта граница двигается быстрее пиковой интеллектуальности, но публичные бенчмарки для её оценки бесполезны, нужны внутренние прогоны на своей кодовой базе. Показательно: Stripe протестировала Opus 4.7, не увидела прироста качества над 4.6 при большей цене и не стала выдавать её разработчикам; Databricks зафиксировала похожую регрессию по стоимости у Opus 5.0 против 4.8 и раскатила внутрь GLM.

Четыре рычага. Первый — быстрый переход на более эффективные модели, что требует независимости от харнесса: либо разработчики переключаются между Claude Code, Codex и Cursor, либо используется мета-харнесс, который прячет это под общим интерфейсом. Второй — автоматическая маршрутизация запросов и задач; внутренний Smart Router у Databricks срезает среднюю стоимость задачи более чем на 30% при сопоставимом качестве. Третий — вместо жёстких бюджетов прогрессивное трение: мгновенная видимость трат, спенд-гейты, понижение на дешёвую модель и приостановка только в крайнем случае. Жёсткие лимиты почти все опрошенные компании считают контрпродуктивными — часть самых дорогих пользователей это как раз те, кто выдаёт кратный результат. Четвёртый — борьба с раздутым контекстом: агент сам добирает основную массу токенов через обход кода и вызовы инструментов. Тюнинг харнесса и кэширования дал Databricks сокращение генерируемых токенов почти вдвое без потери качества.

#Business #Databricks #AI #Development #FinOps #LLM