⌛ AI не ускорит ваши бизнес-процессы: разбор ошибок оптимизации

Массовое увлечение AI-оптимизацией процессов часто строится на ложных ожиданиях. Перечитывая классику вроде «The Toyota Way» и «The Goal», он приходит к выводу, что компании неправильно определяют узкие места.

Главная ошибка — считать, что AI сам по себе ускорит разработку или согласования. На примере Gantt-диаграммы показано: самый долгий этап (например, разработка ПО) не всегда является корнем проблемы. Часто тормозит не написание кода, а нечеткие вводные. «Отправить письмо после продажи» — что это значит? Какое письмо, при каких ошибках, когда сделка считается завершенной?

AI-генерация кода не решает эту проблему. Она лишь переносит нагрузку на этап формулировки задачи: теперь доменным экспертам приходится расписывать каждую деталь до символа. Но если дать человеку-разработчику такое же подробное ТЗ, его продуктивность тоже взлетит.

Вывод: ускорять нужно не «забрасывание» задачи AI или людьми, а качество входящих данных. Как сказано в «The Goal»: «Узкие места должны получать предсказуемые и качественные входные данные». Прежде чем внедрять AI, наведите порядок на входе процесса.

#Business #Ai #Optimization #Research

⚙️ Оптимизация компромиссов между задержкой, надежностью и стоимостью в агентных воркфлоу на LLM

Исследователи из Нью-Йоркского университета представили математическую основу для проектирования надежных агентных систем, использующих большие языковые модели. Работа анализирует фундаментальные компромиссы между тремя ключевыми метриками: latency (задержка), reliability (надежность) и cost (стоимость) в воркфлоу, где взаимодействуют как LLM-агенты, так и традиционные вычислительные модули.

Авторы предлагают модели производительности для обоих типов агентов, которые описывают связь между вычислительными усилиями и качеством вывода. Для LLM-агентов используется параметрическая экспоненциальная функция надежности, учитывающая влияние токенов рассуждения и вывода. Основной результат — политика распределения токенов по принципу «water-filling» и характеристика оптимальной надежности воркфлоу через «теневые цены» (shadow prices).

Практическая значимость: работа позволяет инженерам формально выбирать конфигурацию агентных пайплайнов (количество шагов, размер контекста, уровень резервирования) под заданные бюджет и требования к скорости. Например, для систем реального времени (чат-боты, мониторинг) можно минимизировать задержку при фиксированной надежности, а для пакетной обработки — оптимизировать стоимость.

#AI #AgenticWorkflows #Optimization #LLM

💵Glean преодолела отметку в $300 млн выручки: сокращение AI-бюджетов стало главным аргументом

Enterprise AI-поисковик Glean утроил годовую выручку, достигнув $300 млн, несмотря на выход на рынок технологических гигантов. Ключевым драйвером роста стала способность платформы оптимизировать корпоративные расходы на AI.

Glean позиционируется как единый интерфейс для поиска и анализа данных внутри компании, интегрирующийся с десятками корпоративных систем. В условиях, когда компании начинают урезать бюджеты на эксперименты с AI, Glean предлагает измеримую экономию: сокращение времени сотрудников на поиск информации и устранение дублирующих AI-инструментов.

Стартап конкурирует с решениями от Microsoft Copilot, Google Vertex AI Search и Notion AI, но делает ставку на глубокую интеграцию с существующей IT-инфраструктурой клиентов. В 2025 году Glean добавила поддержку агентных рабочих процессов и автоматизации рутинных задач, что усилило аргумент для CFO, контролирующих AI-расходы.

#AI #Glean #EnterpriseAI #Agents #Business #Optimization

💻️ DynoSim: симуляция Парето-фронтира для LLM-инференса

NVIDIA представила DynoSim — дискретно-событийный симулятор стека инференса Dynamo, работающий на уровне forward-pass. Инструмент позволяет моделировать тысячи конфигураций развертывания LLM без затрат GPU-времени.

Современный LLM-сервинг сложен в настройке: выбор бэкенда, tensor-parallel, split prefill/decode, количество воркеров, планировщик, политика роутинга, KV-кэш, автоскейлинг — все эти параметры взаимосвязаны. DynoSim решает проблему комбинаторного взрыва, заменяя дорогие эксперименты на реальном железе быстрой симуляцией.

Архитектура DynoSim композиционна: replay-драйвер подает нагрузку из трейсов, симуляция одного engine учитывает поведение планировщика (vLLM с waiting/running scheduler или SGLang с radix-cache), а multi-engine симуляция добавляет роутинг, распределенное кэширование и решения Planner. Все компоненты работают на единой виртуальной временной шкале.

Производительность впечатляет: на Apple M4 MacBook Air однопоточная Rust-реализация воспроизвела полный трейс Mooncake (23 608 запросов) с 8 round-robin воркерами за 2.41 секунды wall time при симулированном окне в 60.1 минуты — ускорение в ~1500x.

DynoSim позволяет строить Парето-фронтир для заданной нагрузки на существующем оборудовании, а также тестировать алгоритмические изменения: новые cost-функции для Router, эвристики Planner или политики кэширования. Результат — simulate-then-verify цикл вместо exhaustive поиска на GPU.

#Tech #AI #NVIDIA #DynoSim #LLM #Optimization

🔼 Автоисследование с Codex: ускорение ядра в 232 раза

Разработчик поделился на Hacker News экспериментом по автоматизации исследования кода ядра с помощью Codex. Используя ИИ как самостоятельного исследователя, ему удалось добиться ускорения работы ядра в 232 раза — яркий пример того, как агентные ИИ-инструменты меняют подход к низкоуровневой оптимизации.

Вместо ручного анализа исходников и профилирования Codex автономно изучал код, находил узкие места и предлагал оптимизации. Результат показывает, что современные модели уже способны не просто генерировать код по запросу, а вести полноценное исследование производительности и находить нетривиальные решения.

Для разработчиков это сигнал: связка «ИИ-агент + рантайм-анализ» становится практичным инструментом для работы с производительностью. Однако важно помнить, что такие результаты сильно зависят от конкретной задачи, качества окружения и итеративной проверки изменений.

#AI #Codex #Tech #Kernel #Development #Optimization

🖤 Cursor сократил расход токенов агентов на 7% без потери качества

Cursor рассказал, как переработал harness своих агентов под более длинные сессии. Агенты теперь работают дольше и тащат больше контекста из шага в шаг, поэтому главный фокус - экономия на повторяющихся данных.

Системный промпт урезали примерно на 66%: современные модели уже не нуждаются в длинных списках «не делай это» и «обязательно». Определения инструментов, большинство из которых нужно менее чем в 20% диалогов, перевели в динамический контекст - статически оставили только чтение, поиск, редактирование, shell, ask_question и create_plan для Plan Mode. Ранее такой же приём с MCP-инструментами дал -46,9% токенов в сессиях с их вызовом.

Кэширование улучшили через явные cache breakpoints в API OpenAI начиная с GPT-5.6: стабильные слои запроса отделили от растущей переписки, изменяемый setup ушёл в «phantom user message». Промахи холодного кэша упали на 20%. Нумерацию строк при чтении файлов оставили только на каждой десятой строке - ещё -1.6% cache-read токенов. Субагентам убрали навязчивые инструкции и запретили самим менять модель.

#AI #Cursor #Agents #Development #LLM #Optimization