⚙️ Тонкая настройка моделей: продвинутые стратегии подготовки данных от AWS

Amazon Web Services опубликовала вторую часть руководства по подготовке данных для supervised fine-tuning (SFT). Первая часть касалась форматирования и контроля качества, новая — объёма данных, отбора подмножеств, аугментации и смешивания датасетов. Рекомендации применимы к любой модели, включая Amazon Nova.

Ключевая мысль: чистого датасета недостаточно — нужно понять, сколько данных действительно требуется. Ориентир для типовой SFT-задачи — примерно 2000 качественных примеров. Простому изменению стиля хватит 500, а сложному многошаговому reasoning — 10 000 и больше. Вместо интуиции AWS предлагает learning curve analysis: обучить модель на полном наборе, сохранять чекпоинты каждые 10–20% обучения и оценивать их на отложенном бенчмарке. Если удвоение объёма данных даёт меньше 1–2 процентных пунктов улучшения, дальнейший сбор однотипных примеров бессмыслен.

Отдельный блок посвящён выбору подмножества данных. Методы DEITA, DELIFT и coreset selection помогают найти минимальный набор примеров, сохраняющий качество и разнообразие. Показателен результат исследования Data Repetition Beats Scaling: 128 эпох на 400 примерах рассуждений outperformed однократное обучение на 51 200 примерах на 12–26 п.п. на бенчмарках AIME и GPQA. Меньший, но качественный датасет, доведённый до полного запоминания, может оказаться эффективнее большого набора, который модель видит лишь раз.

#AI #SFT #MachineLearning #LLM #AWS #DataSets

⚙️ Deepgram расширяет observability для Amazon SageMaker AI с помощью Enhanced Metrics

Deepgram представила два новшества для своих speech-моделей на SageMaker AI — Deepgram Enhanced Metrics и поддержку Prometheus/OpenTelemetry. Решение закрывает давний пробел self-hosted распознавания речи: стандартные метрики показывали только доступность эндпоинта и число запросов, но не давали информации о биллинге, использовании функций и загрузке GPU.

Deepgram Enhanced Metrics публикует данные о потреблении и списаниях прямо в Amazon CloudWatch через Embedded Metric Format. Контейнер пишет метрики в stdout, а CloudWatch Logs автоматически превращает их в классические метрики. Для этого не нужны агенты, sidecar-контейнеры и дополнительные IAM-разрешения. Ключевая метрика — ConsumedUnits: это те же значения, которые используются для метеринга AWS Marketplace, поэтому билл можно сверять вплоть до модели и транспорта. Второй компонент — Prometheus-метрики движка и per-GPU метрики, которые собираются через SageMaker AI detailed observability и доступны через PromQL в CloudWatch, Grafana и других совместимых инструментах.

Важно, что всё работает в условиях network isolation для AWS Marketplace model packages: контейнеру не нужно открывать исходящие соединения, а данные остаются внутри аккаунта клиента. Это позволяет совмещать требования к residency и compliance с прозрачным мониторингом инференса.

#AI #Deepgram #SageMaker #AWS #Observability

⚙️ Decathlon переводит прогнозирование спроса на Chronos-2

Ретейлер Decathlon выбрал foundation-модель Chronos-2 как ключевой компонент своего стека прогнозирования спроса. Компания обслуживает более 400 млн покупателей и десятки тысяч товаров в 80 видах спорта, поэтому точность прогноза напрямую влияет на наличие товара в магазинах и издержки на склад.

Модель работает на двух горизонтах: 12-недельный цикл пополнения для закупщиков и 52-недельный стратегический горизонт для планирования запасов. Система развёрнута в Европе, Индии, Китае, Юго-Восточной Азии и Латинской Америке, до 25 000 товаров на зону. Ранее Decathlon использовал DeepAR и Temporal Fusion Transformer, но они требовали еженедельного переобучения и сложно масштабировались.

В ходе бенчмарка на собственных данных ретейлер сравнил несколько TSFM на 101 срезе за два года. Chronos-2 в zero-shot режиме уже соответствовал полностью обученной production-модели, а после fine-tuning (достаточно раз в полгода) заметно превзошёл конкурентов на обоих горизонтах. Отдельно отмечают нативную поддержку ковариат через group attention и эффективность: inference для 25 000 товаров укладывается в 2 минуты, причём модель работает и на CPU, и на GPU.

#AI #Prediction #Chronos2 #AWS #Decathlon

⚙️ Управление агентами, инструментами и навыками: AWS Agent Registry стал общедоступным

AWS объявила о запуске Agent Registry в общий доступ — это централизованный каталог для публикации, поиска и управления агентами, инструментами и навыками. Сервис решает проблему масштабирования агентных систем: когда команд много, а инструментов сотни, разработчики дублируют существующие наработки и теряют контроль над версиями, владельцами и доступом.

Registry разделён на две плоскости. Governance Plane хранит полный реестр ресурсов с метаданными безопасности, политиками обнаружения и пользовательскими схемами (cost center, класс данных, SLA). Discovery Plane показывает потребителям только одобренные ресурсы: поддерживает семантический и лексический поиск по намерению или имени, рассчитан на высоконагруженные запросы и выдаёт краткие сигналы доверия, а не сырые данные аудита.

Каталог поддерживает четыре типа записей: MCP-серверы с их инструментами и промптами, агенты по протоколу A2A, определения навыков в markdown и кастомные JSON-дескрипторы. Это позволяет командам находить готовые компоненты, назначать владельцев и проходить security-ревью до публикации. По сути, это единый реестр всего агентного ландшафта организации — от отдельных скиллов до целых агентов.

#Tech #AWS #AgentRegistry #AI #Agents #LLM

❗️OpenClaw 2.0: упрощённая настройка, новый браузерный интерфейс и мультиплеер

Фонд OpenClaw выпустил версию 2.0 своей открытой AI-платформы — крупнейший релиз проекта, собравший более 16 000 pull request. Главные новшества: упрощённый первый запуск, полностью переписанное браузерное приложение и общие облачные сессии для совместной работы.

Теперь при первоначальной настройке система сама обнаруживает уже установленные ресурсы — подписки ChatGPT или Claude, API-ключи и локальные модели, что убирает большинство ручных шагов. Остальные параметры можно менять прямо в диалоге с ботом. Браузерный интерфейс открывает чат мгновенно и позволяет продолжить настройку, вернуться к текущим задачам или отслеживать их в реальном времени. В чате появился «Session Rail» — компактная панель с прогрессом выполнения, оценками и pull request, а также встроенная companion-нить для вопросов о текущей сессии без прерывания агента.

Shared Cloud Sessions дают нескольким пользователям работать над одними задачами: можно подключать коллег к активной сессии или назначать им задания вместе с контекстом. По словам разработчиков, команда OpenClaw уже использует эту функцию для разработки самой платформы. Сессии могут запускаться локально, на собственном hardware пользователя через openclaw connect или на арендованных машинах через инструмент Crabbox с поддержкой AWS и Hetzner. Учётные данные провайдера при этом всегда остаются на шлюзе и не передаются на удалённую машину. Также в релизе обновили messaging, память, навыки, поддержку моделей, automations, плагины и безопасность.

#AI #OpenClaw #Agent #ChatGPT #Claude #AWS

⚙️ Интеграция Outlook с Amazon Quick: ИИ-автоматизация почты и календаря

AWS представила практическое руководство по интеграции Microsoft Outlook с Amazon Quick — платформой для создания ИИ-агентов. Решение позволяет автоматизировать управление электронной почтой, планирование встреч и координацию рабочих процессов прямо внутри корпоративной почты.

В основе интеграции — три компонента Amazon Quick: чат-агенты для диалогового взаимодействия, Quick Flows для построения многошаговых сценариев и Quick Automate для запуска действий по триггерам. Например, агент может анализировать входящие письма, извлекать запросы на встречи, проверять доступность в календаре и автоматически отправлять приглашения — без участия человека.

Для разработчиков и ИТ-команд это значит, что Outlook перестаёт быть просто почтовым клиентом и превращается в управляемый узел корпоративной автоматизации. Интеграция строится на стандартных API и подходит для типовых HR-, продаж- и операционных сценариев: обработка заявок, согласование документов, напоминания о дедлайнах. AWS публикует пошаговую схему настройки, так что воспроизвести сценарий можно в собственном аккаунте за несколько часов.

#AI #AWS #AmazonQuick #Automation #Outlook

⚙️ Мультимодальный ассистент заказа в WhatsApp на Amazon Bedrock AgentCore

AWS представила архитектуру развёртывания заказного ассистента для WhatsApp, который принимает заказы сразу в трёх форматах: текст, голосовые сообщения и живые звонки — всё на одном бизнес-номере. Решение построено на Amazon Bedrock AgentCore и мультимодальной модели Amazon Nova 2.

Ключевая особенность — разделение канального и заказного слоёв. Канал связи (WhatsApp) и логика обработки заказов работают независимо, а общее хранилище памяти распознаёт клиента во всех трёх режимах: не важно, написал ли пользователь, отправил голосовую заметку или позвонил — ассистент сохраняет контекст диалога и историю заказов. Это позволяет не терять пользователя при переключении между способами общения и делает сервис единым с точки зрения клиента.

Для бизнеса это означает отказ от нескольких ботов под разные сценарии: одна система обрабатывает текстовые запросы, транскрибирует и понимает аудио, а также работает в реальном времени во время звонков. Bedrock AgentCore берёт на себя оркестрацию агента, а Nova 2 обеспечивает мультимодальный ввод. Архитектура подойдёт для ресторанов, ритейла и сервисов доставки, где клиенты привыкли заказывать через мессенджеры голосом и текстом.

#AI #Assistant #AWS #Bedrock #AgentCore #WhatsApp

✂️ AWS представила AEM — метрику оценки агентов в многоходовых диалогах

AWS ML Blog описала Agent Evaluation Metric (AEM) — разложимую на компоненты метрику, которая оценивает качество ИИ-агента по каждому ходу диалога, а не только по финальному результату.

Проблема в каскадных ошибках: в пятиходовом сценарии агент во втором ходу выбирает верное действие, но передаёт «profit» вместо «revenue» — и эта одна ошибка тихо распространяется на все последующие ходы. Оценка на уровне задачи видит лишь провал в конце и не показывает, какой именно ход стал корневой причиной. AEM решает это, считая корректность для каждого хода отдельно и отделяя источник сбоя от его последствий.

В первой реализации AEM измеряет корректность через два подкомпонента: truthfulness (совпадают ли значения в вызовах инструментов и в ответах на естественном языке с ожидаемыми) и completeness (все ли обязательные параметры и элементы присутствуют). Схема «разложить — оценить — собрать» расширяется на новые измерения без перестройки механизма: безопасность, удержание инструкций, глубину рассуждений. Это отличает AEM от существующих holistic-метрик вроде goal completion и LLM-as-judge.

#AI #Agents #AWS #LLM #Score

🛡Abnormal AI задействовала Amazon Bedrock AgentCore для агентной защиты почты

Abnormal AI рассказала, как построила агентную систему обнаружения почтовых угроз в реальном времени, работающую на масштабе миллиардов сообщений. Ключевой элемент архитектуры — Amazon Bedrock AgentCore Code Interpreter, используемый как эфемерный вычислительный «блокнот» для агентов.

Вместо постоянных воркеров каждая задача агента получает изолированную песочницу, которая живёт только на время анализа конкретного письма или инцидента. Это позволяет безопасно исполнять код, разбирать вложения и подозрительные артефакты, не рискуя основной инфраструктурой и не накапливая состояние между запросами. В блоге AWS описаны проектные решения по такой песочнице: как ограничивается время жизни среды, какие данные в неё попадают и как масштабирование удерживается при пиковых нагрузках.

Отдельная часть материала — практические уроки для разработчиков, внедряющих Code Interpreter в продакшн. Основные тезисы: изоляция важнее скорости запуска, очистка среды должна быть гарантированной, а логирование действий агента — достаточным для аудита и разбора инцидентов. Такой подход применим не только к кибербезопасности: любые агентные пайплайны, где модели нужно выполнять код над недоверенными данными, получают готовый шаблон.

Для команд, строящих агентов на AWS, кейс показывает, что Code Interpreter — это не просто инструмент вычислений, а элемент модели безопасности всей системы.

#Safety #AI #AWS #Bedrock #AgentCore #Agents #CyberSecurity