⌨️ Stack Overflow для агентов утроил регистрации благодаря плагину ChatGPT
Stack Overflow строит платформу knowledge intelligence, которая объединяет разрозненный контекст из Slack, Google Docs и других систем и превращает его в проверяемые знания, доступные и людям, и AI-агентам. Ключевой продукт - Stack Overflow for Agents - расширяет этот слой знаний на автономных агентов.
По словам вице-президента по продукту Александры Лато, после выпуска плагина ChatGPT регистрации выросли втрое буквально за ночь, а создание агентов ускорилось примерно в 10 раз. Плагин даёт пользователям бесшовную установку прямо в ChatGPT - проще, чем классическая настройка через Model Context Protocol (MCP).
Отдельная история - скорость разработки. Продукт for Agents собрали два инженера за несколько недель с помощью Codex, передав ему окружение и план. Для корпоративного Stack Internal Codex ускорил создание коннекторов: вместо 3-6 недель на один - 4 дня, а последний удалось собрать за день. В перспективе Stack Overflow рассматривает Decisions API для автоматизации маршрутизации моделей - GPT-6 Astra и GPT-6 Sol уже распределяют задачи по сложности рассуждений и стоимости.
🎨 qvabo.studio/tg · картинки и видео
#AI #StackOverflow #ChatGPT #Codex #Agents #Development #Coding
Stack Overflow строит платформу knowledge intelligence, которая объединяет разрозненный контекст из Slack, Google Docs и других систем и превращает его в проверяемые знания, доступные и людям, и AI-агентам. Ключевой продукт - Stack Overflow for Agents - расширяет этот слой знаний на автономных агентов.
По словам вице-президента по продукту Александры Лато, после выпуска плагина ChatGPT регистрации выросли втрое буквально за ночь, а создание агентов ускорилось примерно в 10 раз. Плагин даёт пользователям бесшовную установку прямо в ChatGPT - проще, чем классическая настройка через Model Context Protocol (MCP).
Отдельная история - скорость разработки. Продукт for Agents собрали два инженера за несколько недель с помощью Codex, передав ему окружение и план. Для корпоративного Stack Internal Codex ускорил создание коннекторов: вместо 3-6 недель на один - 4 дня, а последний удалось собрать за день. В перспективе Stack Overflow рассматривает Decisions API для автоматизации маршрутизации моделей - GPT-6 Astra и GPT-6 Sol уже распределяют задачи по сложности рассуждений и стоимости.
🎨 qvabo.studio/tg · картинки и видео
#AI #StackOverflow #ChatGPT #Codex #Agents #Development #Coding
⚡1👌1
Команда AWS SMGS Operations рассказала, как построила непрерывный контроль качества для мультиагентной системы, обслуживающей отдел продаж AWS по всему миру. Отдельные субагенты отвечают за выручку по территориям, 360-градусный профиль клиента и text-to-SQL запросы к аналитическим данным.
Проблема в том, что агенты ломаются тихо: latency и error rate остаются в норме, а ответы незаметно становятся неверными. До запуска Customer Insights Agent выдал трёхмесячную выручку клиента в $410,08 как «$410 Million», сослался на несуществующий в данных ARR и подал собственные расчёты как факты из источника. Мониторинг при этом оставался зелёным.
Фреймворк охватывает девять стадий жизненного цикла - от первого коммита до продакшена: определение эталона, сравнение версий, CI-регрессии, CD-гейт, канареечный скоринг, adversarial-тесты, детекцию дрейфа, пульс-мониторинг и автоматическую петлю обратной связи. Оценка ведётся на трёх уровнях: инструменты, отдельные агенты и оркестрация между ними. По словам AWS, рассогласование версий данных, промптов и кода в одном тесте уронило pass rate с 78% до 38%.
Стек: AgentCore Evaluations, Amazon Bedrock Guardrails, CloudWatch, S3, Redshift, AWS Lambda и Amazon Quick.
🎨 qvabo.studio/tg · картинки и видео
#Tech #AWS #AI #Agents #AmazonBedrock #MLOps #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1🤔1
Replit больше не работает с Anthropic. Об этом сообщил CEO компании Амджад Масад, не раскрыв полного списка причин, но отметив, что среди них - стоимость.
В августе Replit объявил о партнёрстве с OpenAI, однако прямых указаний на то, что сотрудничество с Anthropic прекращено, до сих пор не было. Теперь смена поставщика моделей подтверждена официально.
Для пользователей платформы это означает, что генерация кода и агентные сценарии Replit всё больше будут опираться на модели OpenAI. Смена бэкенда может отразиться на поведении и качестве вывода - разработчикам, завязанным на конкретные модели Anthropic, стоит проверить свои пайплайны.
🎨 qvabo.studio/tg · картинки и видео
#AI #Replit #Anthropic #OpenAI #Tools #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1😱1
На конференции AI Engineer NYC 2026 инженеры Anthropic CJ Avilla и Harrison Stall представили dynamic workflows («flows») - новый тип мультиагентной оркестрации в Claude Managed Agents. Функция была анонсирована в пятницу и доступна в Claude Console.
Ключевое отличие: раньше разработчик сам настраивал координатора и набор субагентов, теперь Claude самостоятельно проектирует топологию - составляет план, пишет оркестрационную программу, запускает агентов, собирает результаты и управляет потоками данных. При необходимости можно передать предварительно настроенных специализированных субагентов через конфиг.
Из Q&A: количество агентов регулируется через evals и «низкие дефолты»; модель не знает своего бюджета во время работы (лимит задаётся на сессию) - иначе агенты, по словам Stall, становятся «немного тревожными». Субагенты общаются через общую файловую систему, все переходы графа видны в Console. Для удешевления повторных прогонов предлагают функцию «dreaming» - реорганизацию памяти по прошлым сессиям. Flows дороже одиночного агента, но заметно точнее в деталях.
🎨 qvabo.studio/tg · картинки и видео
#AI #Anthropic #Claude #Agents #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1👨💻1
Компания Elorian представила свою дебютную модель Glimpse - мультимодальную систему, которая, по задумке разработчиков, умеет не просто описывать картинки, а рассуждать непосредственно в визуальной среде, а не только «о» ней.
По собственным оценкам Elorian, Glimpse обходит даже GPT-6 Astra в задачах анализа научных графиков и составления подписей к коротким видео. На остальных задачах визуального рассуждения модель показывает сопоставимые результаты с конкурентами.
Ключевая идея - сместить акцент с текстового посредника на работу с изображением как с источником рассуждений: диаграммы, схемы и видеоряд становятся не приложением к промпту, а полноценным объектом анализа. Это особенно актуально для научной визуализации, инженерных дашбордов и инструментов автоматического описания видео.
Стоит отметить: сравнения с GPT-6 Astra основаны на внутренних бенчмарках самой Elorian, независимой проверки пока нет. Для разработчиков это ещё один сигнал, что конкуренция в мультимодальных моделях смещается в сторону специализированных задач визуального reasoning.
🎨 qvabo.studio/tg · картинки и видео
#AI #MultiModal #Glimpse #Elorian #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1
🐳 DeepSeek выпустила V4.1 Flash 1017: дешевле и точнее крупных конкурентов в агентных задачах
Китайская DeepSeek обновила Flash-модель, сделав ставку на агентные и кодинг-задачи. DeepSeek-V4.1 Flash 1017 уже доступна через сайт, приложение и API, а веса выложены в открытый доступ на Hugging Face и ModelScope.
Для сборки проектов «с нуля» применён метод RLSF - reinforcement learning with self-feedback: модель использует собственные оценки уверенности и самокритику как сигнал вознаграждения, без людей-оценщиков и внешних reward-моделей. Это улучшает end-to-end разработку - от геймдева и 3D-моделирования до анимации коротких объясняющих видео. Модель заточена под DeepSeek Harness (v0.2.1-rc.1+), Tencent CodeBuddy и WorkBuddy.
По собственным бенчмаркам DeepSeek она обходит предшественницу и крупных соперников (Claude Opus 5, GPT 5.6-Sol, Kimi K3, GLM 5.3) в ряде категорий кодинга и агентов. На DeepSWE - 77,0% при средней стоимости чуть менее $0,20 за задачу (у предшественницы 74,2% за ~$0,50); в low-режиме - выше 72% примерно за $0,10. Конкуренты в графике стоят от $2 до $10+ за задачу. Независимых замеров пока нет.
Отдельно DeepSeek открыла свои Search & Fetch API: $0,75 за 1000 вызовов, бесплатно через server-side tools в Harness, Claude Code и Codex до 31 октября 2026 года.
🎨 qvabo.studio/tg · картинки и видео
#AI #DeepSeek #Models #Agents #Development #OpenSource
Китайская DeepSeek обновила Flash-модель, сделав ставку на агентные и кодинг-задачи. DeepSeek-V4.1 Flash 1017 уже доступна через сайт, приложение и API, а веса выложены в открытый доступ на Hugging Face и ModelScope.
Для сборки проектов «с нуля» применён метод RLSF - reinforcement learning with self-feedback: модель использует собственные оценки уверенности и самокритику как сигнал вознаграждения, без людей-оценщиков и внешних reward-моделей. Это улучшает end-to-end разработку - от геймдева и 3D-моделирования до анимации коротких объясняющих видео. Модель заточена под DeepSeek Harness (v0.2.1-rc.1+), Tencent CodeBuddy и WorkBuddy.
По собственным бенчмаркам DeepSeek она обходит предшественницу и крупных соперников (Claude Opus 5, GPT 5.6-Sol, Kimi K3, GLM 5.3) в ряде категорий кодинга и агентов. На DeepSWE - 77,0% при средней стоимости чуть менее $0,20 за задачу (у предшественницы 74,2% за ~$0,50); в low-режиме - выше 72% примерно за $0,10. Конкуренты в графике стоят от $2 до $10+ за задачу. Независимых замеров пока нет.
Отдельно DeepSeek открыла свои Search & Fetch API: $0,75 за 1000 вызовов, бесплатно через server-side tools в Harness, Claude Code и Codex до 31 октября 2026 года.
🎨 qvabo.studio/tg · картинки и видео
#AI #DeepSeek #Models #Agents #Development #OpenSource
🔥1💯1
🐳 DeepSeek запустил Search и Fetch API для агентов и RAG за $0,75 за 1000 запросов
DeepSeek открыл публичный доступ к двум новым инструментам для разработчиков: Search API и Fetch API. Оба работают как обычные JSON-эндпоинты с Bearer-аутентификацией по адресу
Search поддерживает операторы запросов -
Биллинг - только за успешные запросы: $0,75 за 1000 вызовов для каждого API, независимо от числа результатов. Ошибки, пустая выдача и таймауты не тарифицируются. Лимит - 5 QPS на аккаунт, у Fetch дополнительно ограничение на домен. До 1 ноября 2026 вызовы через Claude Code, Codex и DeepSeek Harness бесплатны.
🎨 qvabo.studio/tg · картинки и видео
#Tech #DeepSeek #AI #RAG #Development #API
DeepSeek открыл публичный доступ к двум новым инструментам для разработчиков: Search API и Fetch API. Оба работают как обычные JSON-эндпоинты с Bearer-аутентификацией по адресу
https://api.deepseek.com и дают агентам и RAG-приложениям доступ к живому вебу. Search (/v1/tools/search) ищет страницы через собственный поисковик DeepSeek и возвращает структурированные результаты, Fetch (/v1/tools/fetch) забирает одну страницу и отдаёт контент в Markdown.Search поддерживает операторы запросов -
site:, -site:, точные фразы, lang:, after:/before: - и до 50 результатов с rerank-оценкой релевантности, сниппетами, длинными summary и опциональным полным контентом (need_content). Есть поле ori_question для более точного понимания исходного вопроса пользователя.Биллинг - только за успешные запросы: $0,75 за 1000 вызовов для каждого API, независимо от числа результатов. Ошибки, пустая выдача и таймауты не тарифицируются. Лимит - 5 QPS на аккаунт, у Fetch дополнительно ограничение на домен. До 1 ноября 2026 вызовы через Claude Code, Codex и DeepSeek Harness бесплатны.
🎨 qvabo.studio/tg · картинки и видео
#Tech #DeepSeek #AI #RAG #Development #API
🔥1👏1
На Hacker News вышел открытый проект Sphinx - Git-хук для разработки с помощью ИИ-агентов. Перед тем как код агента уйдёт в удалённый репозиторий, Sphinx задаёт вам вопрос о том, что этот код на самом деле делает. Слоган проекта: «Вы можете передать ИИ свои размышления, но не понимание».
Работает это так: при
git push в защищённых ветках Git ставит паузу. Модель, не видевшая вашего чата с агентом, читает дифф и задаёт вопрос про сценарий отказа - например, что произойдёт при повторном вебхуке Stripe. Ответили неверно - получаете объяснение и новый вопрос; ответили верно - пуш продолжается. Ответы никогда не попадают к кодинг-агенту, а файлы .env и ключи не открываются.Установка -
npm install -g sphinx-understand и sphinx install. Поддерживаются Codex, Claude Code, Cursor, OpenCode и Pi либо обычный Git. Работает на минимальном числе токенов через OpenRouter или любой OpenAI-совместимый эндпоинт. Для спешки есть режим sphinx yolo, но каждый пропуск логируется. Нужен Node 22.19+ и macOS, Linux или WSL.🎨 qvabo.studio/tg · картинки и видео
#GitHub #AI #Skills #Development #DevTools #OpenSource
Please open Telegram to view this post
VIEW IN TELEGRAM
В блоге, разошедшемся по Hacker News, автор спорит с подходом «просто сидеть в веб-интерфейсе провайдера»: панели аналитики показывают милых маскотов и абстрактные картинки вместо временных рядов по токенам, по которым инженер мог бы принимать решения. Экспорт в OTel есть, но это лишь один аргумент из шести.
Остальные: единая точка входа для многих провайдеров и моделей под вашим контролем; логи - какой ключ, какую модель, через какого клиента и с каким статусом вызвал и когда; виртуальные API-ключи вместо одного мастер-ключа, размазанного по агентам и харнессам; собственная инфраструктура и хранение; быстрый перевод нагрузки на другого провайдера без пересборки окружения в третий раз. Прокси можно форкать и допиливать под себя - например, добавлять собственные эндпоинты для MCP-серверов и расширенную телеметрию.
Практическая ценность: по логам автор находит причину cache miss в сессии кодинга примерно за 20 секунд, а API прокси позволяет это автоматизировать. Вывод - инструментировать инференс и владеть путём данных, а не доверять статистике подписки.
🎨 qvabo.studio/tg · картинки и видео
#Tech #LLM #AI #Development #Observability #MCP
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1
OpenCode - открытый AI-агент для кодинга, конкурент Claude Code и Cursor - сообщил о взломе устаревшей системы онлайн-платформы OpenCode Console. Затронуты 1,4% пользователей, хранивших там API-ключи; все они получили уведомления по почте.
В ночь атаки разработчики начали сообщать в Reddit и X о неожиданных списаниях: у некоторых - сотни долларов, у отдельных пользователей - больше $1000. Anthropic и Google заблокировали скомпрометированные ключи, OpenAI вместе с OpenCode восстановила доступ и вернула клиентам потраченные на атаку кредиты. Возвраты проводит и сам OpenCode. Сооснователь Dax Raad подчеркнул: утечка касается только Console, сам open-source-клиент и CLI не затронуты - ключи на серверы компании не передаются.
Отдельный сюжет - реакция команды: атаки шли 48 часов подряд, и защитные AI-агенты помогали лишь до момента, когда вредоносный код активировал фильтры безопасности моделей. Доступ к программе OpenAI Daybreak Blue с ослабленными ограничениями для defensive security ускорил разбор инцидента. Схожая проблема была у Hugging Face в июле.
🎨 qvabo.studio/tg · картинки и видео
#Safety #OpenCode #AI #Tools #Cybersecurity #API #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1🕊1
☁️ Cloudflare представила Clairic - первый класс моделей извлечения данных System One
Cloudflare анонсировала превью Clairic - первой модели нового класса System One extraction models. Она уже доступна в Workers AI под идентификатором
Clairic не генерирует текст: за один forward-pass она возвращает типизированные значения по заданной схеме полей - числа, даты, длительности, списки, оценки и прогнозы. Каждый ответ сопровождается confidence, вероятностью отсутствия значения (p_null), а для текстовых полей - span с символьными смещениями, чтобы можно было сослаться на источник. Модель умеет вычислять значения, которых нет в явном виде: например, сложить цену и налог, посчитать дни между датами. Есть режимы estimate (распределение в заданных границах с медианой и 80%-интервалом) и forecast для временных рядов.
Ключевое преимущество - экономика: ответ формируется за один параллельный проход без output-токенов, поэтому 30 полей стоят примерно столько же, сколько три, а латентность обычно меньше секунды. Для сравнения, обычный LLM на ту же задачу тратит секунды и требует парсинга, валидации схемы и ретраев. Типичные сценарии - извлечение данных из счетов, накладных и писем поддержки.
🎨 qvabo.studio/tg · картинки и видео
#Cloudflare #WorkersAI #Development #AI #Infrastructure #ML
Cloudflare анонсировала превью Clairic - первой модели нового класса System One extraction models. Она уже доступна в Workers AI под идентификатором
@cf/cloudflare/clairic, открытые веса обещают выпустить в ближайшее время.Clairic не генерирует текст: за один forward-pass она возвращает типизированные значения по заданной схеме полей - числа, даты, длительности, списки, оценки и прогнозы. Каждый ответ сопровождается confidence, вероятностью отсутствия значения (p_null), а для текстовых полей - span с символьными смещениями, чтобы можно было сослаться на источник. Модель умеет вычислять значения, которых нет в явном виде: например, сложить цену и налог, посчитать дни между датами. Есть режимы estimate (распределение в заданных границах с медианой и 80%-интервалом) и forecast для временных рядов.
Ключевое преимущество - экономика: ответ формируется за один параллельный проход без output-токенов, поэтому 30 полей стоят примерно столько же, сколько три, а латентность обычно меньше секунды. Для сравнения, обычный LLM на ту же задачу тратит секунды и требует парсинга, валидации схемы и ретраев. Типичные сценарии - извлечение данных из счетов, накладных и писем поддержки.
🎨 qvabo.studio/tg · картинки и видео
#Cloudflare #WorkersAI #Development #AI #Infrastructure #ML
🐳 DeepSeek открыла поисковый API и API загрузки страниц для AI-агентов
DeepSeek запустила Search и Fetch API - собственный поисковый движок теперь доступен разработчикам AI-агентов и приложений, которым нужны внешние данные. Search возвращает структурированную веб-выдачу, а Fetch извлекает заголовок и содержимое страницы в формате Markdown.
Обе услуги стоят 5 юаней за 1000 успешных запросов; неудачные запросы, пустая выдача и таймауты не тарифицируются. Доступ открыт по уже существующим API-ключам DeepSeek. Серверные вызовы поиска и загрузки страниц через DeepSeek Harness, Claude Code и Codex пока бесплатны - плату введут с полуночи по пекинскому времени 1 ноября.
Для разработчиков это способ уйти от сторонних поисковых обёрток: RAG-агенты и ассистенты получают и поиск, и парсинг страниц из одного источника, а платят только за успешные ответы. Логика простая - дешёвый контентный слой под агентные сценарии.
🎨 qvabo.studio/tg · картинки и видео
#AI #Tech #DeepSeek #Agents #Development #API #RAG
DeepSeek запустила Search и Fetch API - собственный поисковый движок теперь доступен разработчикам AI-агентов и приложений, которым нужны внешние данные. Search возвращает структурированную веб-выдачу, а Fetch извлекает заголовок и содержимое страницы в формате Markdown.
Обе услуги стоят 5 юаней за 1000 успешных запросов; неудачные запросы, пустая выдача и таймауты не тарифицируются. Доступ открыт по уже существующим API-ключам DeepSeek. Серверные вызовы поиска и загрузки страниц через DeepSeek Harness, Claude Code и Codex пока бесплатны - плату введут с полуночи по пекинскому времени 1 ноября.
Для разработчиков это способ уйти от сторонних поисковых обёрток: RAG-агенты и ассистенты получают и поиск, и парсинг страниц из одного источника, а платят только за успешные ответы. Логика простая - дешёвый контентный слой под агентные сценарии.
🎨 qvabo.studio/tg · картинки и видео
#AI #Tech #DeepSeek #Agents #Development #API #RAG
Perplexity опубликовала разбор понятия harness engineering - инженерии обвязки, то есть кода, который окружает саму модель и превращает её в работающего агента.
В основе - три задачи. Первая: запуск агентов, цикл вызова модели, обработка ответов и передача управления инструментам. Вторая: управление контекстом - что именно попадает в промпт, как отбираются файлы и история, как обрезаются лишние токены. Третья: проверка работы - тесты, линтеры и автоматические верификаторы, которые ловят ошибки до того, как результат уйдёт пользователю.
Практический смысл в том, что качество агента всё меньше зависит от самой модели и всё больше - от этой обвязки. Один и тот же LLM в хорошем harness решает задачи заметно стабильнее, чем в «голом» чате. Для разработчиков это означает: вложения в контекст-менеджмент, инструменты и контроль качества дают больший прирост, чем очередная смена модели.
🎨 qvabo.studio/tg · картинки и видео
#AI #Agents #Perplexity #LLM #Development #Talk #HarnessEngineering
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
OpenAI сообщила о заметном прогрессе своих моделей в низкоресурсных языках программирования - COBOL, Fortran и Visual Basic. Кода и документации по ним мало, но на них держится критическая инфраструктура: COBOL обслуживает более 40% систем онлайн-банкинга и 95% транзакций банкоматов, Fortran используется в прогнозах погоды и анализе безопасности реакторов.
Для замера прогресса OpenAI представила две оценки. MultiLangBench проверяет, может ли модель с нуля собрать SQLite-совместимый движок на 20 языках. GPT-6 Astra показала средний pass rate 87,4% против 26,8% у GPT-5.6 Sol, с ростом в каждом языке: COBOL - с 10,9% до 72,1%, Fortran - с 21,4% до 83,5%, Visual Basic - с 27,5% до 89,4%. Более дешёвая GPT-6 Luna даёт 40,3% при примерно 78% ниже стоимости API.
Вторая оценка - миграция COBOL на C++, Java, Kotlin, Python или Rust с побайтовым сохранением поведения, включая правила округления в финансовых расчётах. GPT-6.1 Sol достигает 86,6% при низком reasoning effort (у GPT-5.6 Sol - 5,4%) и 97,9% при высоком, при этом на 39% дешевле. Набор тестов MultiLangBench выложен на GitHub.
🎨 qvabo.studio/tg · картинки и видео
#OpenAI #COBOL #AI #Coding #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
Вышел Claude Code v2.1.304. Добавлены /auto-mode-setup - мастер читает проект и недавние сессии и объясняет авторежиму окружение (работает на Bedrock, Vertex, Foundry и при отключённой телеметрии), и /claude-api managed-agents-secure - сверка настроек агента Managed Agents с руководством Anthropic по безопасности без изменений конфигурации.
В плагинах и модах появилась запись в транскрипте, если первый плагин пропускает хук мода. В tool.check добавлен decider: "person": подтвердить запрос может только диалог разрешений или callback хоста. e.isReadOnly сигнализирует о read-only вызове. Лимит хуков навыков - 1 024 на источник и 16 384 символа матчеров за сессию.
Исправлены sandbox на Linux с [user-id] в denyRead, отсутствие safety-запроса для rm -r на /Volumes и /media, зависание headless после --max-turns, игнор OpenTelemetry из server-managed settings и таймауты VSCode на SessionStart-хуках. В Code Review появились уровни Quick, Standard и Deep и проверка всех репозиториев GitHub-организации.
Для разработчиков это меньше сюрпризов с правами и хуками, стабильнее облачные сессии и авторежим под конкретный проект.
🎨 qvabo.studio/tg · картинки и видео
#ClaudeCode #AI #Skills #GitHub #Development #Agents
Please open Telegram to view this post
VIEW IN TELEGRAM
🤗 Hugging Face: встроенные оценщики ИИ не станут простым решением
Директор по политике Hugging Face Ирен Солаиман на TechCrunch Disrupt заявила, что индустрии не стоит рассчитывать на быстрое решение проблемы оценки безопасности ИИ через сторонних «встроенных» оценщиков: методология пока незрелая.
По её словам, ключевой вопрос - воспроизводимость. Чтобы доверять результатам эвалюации, нужен доступ к самой модели, и здесь важную роль играют открытые веса. При этом бенчмарки быстро устаревают, а сравнивать их между собой индустрия до сих пор толком не умеет. Экосистема оценщиков только формируется, и критерии того, кто и для каких задач является эффективным оценщиком, требуют стандартизации. Наглядный пример - критика в адрес Anthropic после найма Accenture в качестве первого встроенного оценщика.
Отдельная проблема - смещение оценки с модели на всю систему: harness (инструмент доступа к модели) и агент влияют на результат настолько, что слабая модель с хорошим harness может обойти фронтирную. Agentic-evals сложны и дороги, а оценок для harness и целостных агентов заметно меньше, чем для самих моделей.
🎨 qvabo.studio/tg · картинки и видео
#AI #HuggingFace #Benchmarks #Security #Development
Директор по политике Hugging Face Ирен Солаиман на TechCrunch Disrupt заявила, что индустрии не стоит рассчитывать на быстрое решение проблемы оценки безопасности ИИ через сторонних «встроенных» оценщиков: методология пока незрелая.
По её словам, ключевой вопрос - воспроизводимость. Чтобы доверять результатам эвалюации, нужен доступ к самой модели, и здесь важную роль играют открытые веса. При этом бенчмарки быстро устаревают, а сравнивать их между собой индустрия до сих пор толком не умеет. Экосистема оценщиков только формируется, и критерии того, кто и для каких задач является эффективным оценщиком, требуют стандартизации. Наглядный пример - критика в адрес Anthropic после найма Accenture в качестве первого встроенного оценщика.
Отдельная проблема - смещение оценки с модели на всю систему: harness (инструмент доступа к модели) и агент влияют на результат настолько, что слабая модель с хорошим harness может обойти фронтирную. Agentic-evals сложны и дороги, а оценок для harness и целостных агентов заметно меньше, чем для самих моделей.
🎨 qvabo.studio/tg · картинки и видео
#AI #HuggingFace #Benchmarks #Security #Development