💻 Nvidia представила SoL-Pi: оптимизация harness почти вдвое снижает расход токенов кодинг-агентов

Исследователи Nvidia предложили оптимизировать не саму модель, а harness - управляющий слой между ИИ и средой, который используют Codex, Claude Code и OpenClaw. Именно он определяет, как агент видит состояние, выполняет действия и обрабатывает обратную связь, а его компоненты - работа с инструментами, управление контекстом, верификация и логика прерывания - сильно связаны между собой, поэтому ручная оптимизация даёт сбои.

Система SoL-Pi автоматизирует эту работу: исследовательский агент наблюдает за трейсами другого агента, предлагает изменения и проверяет их в подготовленных средах. Из 152 направлений на 535 средах (495 задач из пар issue-pull request GitHub и 40 синтетических тестов, свыше 3000 прогонов) отобраны четыре механизма: Action Fusion объединяет два последовательных шага в один вызов модели, Online Context Compact сокращает накопленный контекст, ObservationPack архивирует длинные выводы инструментов, а Evidence-Preserving Reducer передаёт большие логи ошибок дешёвой модели для сжатия с автоматической проверкой.

На бенчмарке EdgeBench, полностью изолированном от процесса поиска, экономия составила 44,7-49% токенов, а стоимость прогона - $894 против $1339. В час экономия оценивается в $8,75-13,50 против нативных Codex и Claude Code. Ограничение: результаты на других бенчмарках скромнее, а более короткий контекст может снижать переиспользование prompt-кэша.

#Tech #Nvidia #SoLPi #AI #Development #LLM