➡️ Внедрение дорожает, даже когда технологии дешевеют. Дело не только в железе и энергии, дорожают компетенции. Нужны инженеры и руководители, которые умеют не просто писать промпты, а строить работающие кейсы и доводить их до прода. Токен подешевел кратно, но бизнес использует рассуждающие модели с контекстом в 500 тысяч — миллион токенов, и чеки растут. С разработкой то же самое: агенты помогают закрывать на 30–40% больше задач, но работы становится больше, ведь IT-системы приходится перерабатывать и интегрировать, чтобы они были готовы к агентам.

➡️ 40-60% задач эффективно и безопасно решаются на облачных моделях. Для работы с чувствительными данными, например RAG-систем и внутренних ассистентов, хватает моделей среднего размера на доступном железе. Большинство компаний в итоге приходит к гибридной архитектуре, где используются облачные модели с защитой от утечек и промпт-инъекций совместно с собственной инфраструктурой.

➡️ Запросов на защиту данных и развертывание в контуре стало заметно больше. Начать стоит с двух вещей. Первая — вывести теневой AI в контролируемое, но не запретительное русло. Вторая — провести ревизию «зоопарка» пилотов: какие модели используются и к каким данным у них есть доступ.

➡️ В каком решении сейчас нельзя ошибиться? Главное — выбор платформы, на которой компания будет строить агентов и AI-кейсы. Именно через нее агенты получат единый доступ к корпоративным данным, RAG-системам и всему разнородному IT-ландшафту. Сменить платформу через год-два будет сложно и дорого, поэтому ошибка здесь будет аукаться годами.

➡️ Где проходит граница автономности? Агенту можно отдать процесс, если ошибки в нем обратимы, а результат можно проконтролировать и оценить. Если операции критические, необратимые и дорого обходятся пользователю и всей системе, человек должен оставаться в цикле.

➡️ Что нельзя отдавать агенту? Без контроля человека не стоит отдавать решения, от которых зависит жизнь человека, работа крупного или потенциально опасного производства, а также большие финансовые операции. А вот простые задачи, например, ответы на вопросы или смена пароля, уже вполне можно автоматизировать.

➡️ Главный урок на практике. Качество решения в Just AI оценивают не только по автоматизации и удовлетворенности пользователей, но и по стоимости. В одном из проектов из двух подходящих моделей выбрали меньшую, т.к. ее можно было запустить на более дешевом железе. Проблема проявилась позже, когда агенту начали добавлять инструменты, а промпт и контекст выросли. Тогда модель перестала следовать инструкциям и выполняла не те действия, хотя ответы по тексту выглядели адекватно. Вывод: методологий, которые работали для классических решений, недостаточно. Важно смотреть на семантику и динамику ответов, а еще на то, как агент принимает решения и решает ли он задачу пользователя.

➡️ Кто отвечает за ошибку агента? Владелец процесса и бизнес-функции, в которую встроен агент. Роль вендора тоже есть, поэтому снижать риски нужно вместе: правильно выбирать процессы и методологии, которые сделают работу агента максимально безопасной.

Мы развиваем Agent Platform для создания AI-агентов и агентизации массовых коммуникаций. Ее модули закрывают весь контур, среди них — корпоративный шлюз к 400+ моделям Caila, модуль безопасности Jay Guard, база знаний Jay Knowledge Hub и речевой стек. А в Jay Flow агенты сами выполняют многошаговые задачи: от генерации контента до анализа документов и создания лендингов.