Qvabo News
231 subscribers
2.45K photos
11 videos
473 links
Что нового в нейросетях: релизы, обновления, фишки, примеры генераций. Каждый день выбираем главное. Генерация картинок топовыми моделями: @qvabostudio_bot

Сайт: https://qvabo.studio/app
Download Telegram
❗️Cerebras CEO: домашний ИИ-ассистент у каждого - уже не за горами

Генеральный директор и сооснователь Cerebras Systems Эндрю Фельдман считает, что персональный ИИ-ассистент в каждом доме - вопрос ближайшего будущего. Выступая на сцене TechCrunch Disrupt 2026, он ответил на вопрос, что нужно, чтобы ИИ стал бытовым прибором: «На самом деле, я не думаю, что это так уж далеко».

По его прогнозу, ассистенты будут работать локально и гибридно: часть вычислений - на устройстве, часть - в облаке, как в смартфоне. Такие агенты «узнают вас очень хорошо», получат собственный периметр безопасности и доступ к банковским картам, чтобы совершать покупки за пользователя. Фельдман указывает на рост потребительских ИИ-агентов - например, Meta* Muse и стартап Instinct с оценкой $10 млрд - как на признак того, что технология находит применение у обычных пользователей.

Сам CEO уже использует «набор агентов»: они просматривают его календарь и собирают информацию о людях перед созвонами. При этом он подчёркивает: потребительскую идею пусть придумывают другие - Cerebras строит инфраструктуру, платформу, на которой взлетают чужие замыслы.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#AI #Cerebras #Agents #Tech #Infrastructure
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🤯1
🦾 Dobot представила VEGA 7 - семиосевую руку с силовым контролем для embodied AI

Dobot выпустила DOBOT VEGA 7 - семиосевой манипулятор с силовым управлением, спроектированный с прицелом на embodied AI. Премьера прошла на выставке China International Industry Fair в Шанхае. Рука позиционируется для колёсных двуруких роботов, мобильной манипуляции на производстве и разработки embodied AI.

Главный акцент - надёжность: заявленный MTBF 50 000 часов. В каждом шарнире стоит электромагнитный тормоз, при внезапной потере питания рука удерживает позу и тормозит за 18 мс. Корпус защищён по IP54. В каждом суставе также установлен датчик момента: точность силового контроля от 0,15 Н, момента - от 0,05 Н·м, разрешение от 0,01 Н·м. Это даёт контактное sensing, податливое управление, детекцию столкновений и обучение «за руку».

Основные характеристики: полезная нагрузка 7 кг, радиус 725 мм, повторяемость ±0,03 мм. Седьмая ось добавляет избыточность - рука достигает точки в разных позах, что полезно для работы внутри оборудования и в тесном пространстве двух рук. Кабели проложены через полый корпус, на конце - два интерфейса расширения с EtherCAT, CAN и RS-485, питание 3 А номинал / 5 А пик. Отдельно Dobot подчёркивает пользу датчиков момента для сбора данных: при записи телеоперации или демонстраций на реальном роботе они фиксируют контактные усилия вместе с движением - дополнительный сигнал для обучения помимо видео и позиций суставов. Цены и даты поставок нет.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #Robotics #Dobot #VEGA7 #EmbodiedAI
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1👌1
⚡️ Robotaxi-подразделение Hello Inc. выпустило HelloWorld - генеративную world-модель для вождения

Команда роботакси Hello Inc. 12 октября представила HelloWorld - генеративную world-модель, которая создаёт данные для вождения по запросу и позволяет интерактивно тестировать политики управления. Опубликованы статья на arXiv и страница проекта.

Модель сочетает управление сценой, непрерывную генерацию, мультисенсорное наблюдение и эффективный инференс. Инженеры могут редактировать автомобили, пешеходов и их траектории - например, добавить переходящего дорогу пешехода, изменить маршрут машины впереди или переключить погоду между дождём, снегом, днём и ночью. HelloWorld генерирует согласованные многовидовые видео с камер и данные лидара. Второй способ задания сцен - обычный текст: описание превращается в нужные модели условия (стройплощадки, плотный трафик, туман, разное освещение).

Цель - закрыть пробелы в реальных данных. Редкие опасные ситуации и необычные сочетания погоды и трафика трудно набрать обычным сбором на дорогах, а генерация по запросу даёт целевые обучающие данные и контрфактические тесты: один момент переигрывается с изменённым элементом, чтобы проверить реакцию политики вождения.

По данным статьи, у HelloWorld около 2 млрд параметров, семь камер, условный вывод лидара и причинная генерация за несколько шагов - это должно сохранять скорость инференса для повторяемой интерактивной симуляции. Сроки применения модели в тестировании машин компания не раскрыла.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #WorldModels #AutoDriving #RoboTaxi #HelloWorld #MachineLearning
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1🆒1
📄 Amazon Bedrock AgentCore: самообучающаяся обработка документов без шаблонов

AWS представила решение для агентной обработки документов (IDP) на базе Amazon Bedrock AgentCore. Восемь специализированных агентов работают в двух графовых процессах, построенных на открытом SDK Strands Agents, и классифицируют, извлекают, валидируют данные и обучаются на каждом новом формате без ручной настройки шаблонов.

Как это устроено: Analyzer извлекает текст через Amazon Textract, Matcher ищет похожие документы по векторному сходству в S3 Vectors. Для нового типа запускается training workflow - агенты Instructions, Extractor и Validator генерируют промпты, проверяют результат по схемам и бизнес-правилам в Aurora DSQL. При ошибке Instructions Fixer уточняет промпт и повторяет попытку, после успеха Save Instructions сохраняет инструкции. Для известных форматов работает automation workflow с уже готовыми правилами.

Инфраструктура: документы приходят через Amazon SES или S3, EventBridge и Lambda создают задачу в DynamoDB и запускают AgentCore Runtime. Доступ к ресурсам обеспечивают AgentCore Identity и Cognito, а Lambda-функции становятся инструментами агентов через MCP-интерфейс AgentCore Gateway. Мониторинг - через AgentCore Observability и CloudWatch. Развёртывание шести CloudFormation-стеков через AWS CDK занимает 15-20 минут.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AWS #Bedrock #AgentCore #IDP #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1🤝1
❗️USTC поставил рекорд преобразования частоты 393→1550 нм для квантовых сетей

Команда USTC под руководством Пань Цзяньвэя и Чжан Цяна показала низкошумовое преобразование частоты фотонов из УФ-диапазона (393 нм) в телеком-полосу 1550 нм. Работа опубликована в Physical Review Letters.

Ловушки ионов - одна из ведущих платформ квантовых сетей: долгая когерентность и точное управление. Но ионы излучают в ультрафиолете, который быстро поглощается в оптоволокне. Спасает квантовое преобразование частоты (QFC), сохраняющее квантовое состояние фотона, - однако раньше эффективность была низкой, шум высоким, а запутанность между ионными узлами ограничивалась метрами.

Исследователи построили количественную модель влияния дефектов доменов кристалла на квази-фазовый синхронизм и подтвердили её экспериментально. Обнаружив, что при коротковолновой накачке преобразование и главный источник шума (спонтанное параметрическое рассеяние) смещаются в противоположные стороны, они подавили шум накачки.

Итог: эффективность 28,8% «от конца до конца» и шум 35 отсчётов в секунду - примерно в 30 раз эффективнее и на два порядка тише предыдущих работ. Модуль уже применён с кубитами на ионах кальция-40: сигнал/шум 120:1, дальняя запутанность и device-independent QKD. Это ключевой компонент масштабируемых квантовых повторителей.

🎨 qvabo.studio/tg · картинки и видео

#Tech #QuantumNets #Photonics #QuantumComputing #Science #USTC
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1
💻 NVIDIA расширила семейство Nemotron: открытая модель Super VL на 120 млрд параметров и edge-модели Bolt

NVIDIA выпустила Nemotron 3.5 Super VL - открытую мультимодальную модель на 120 млрд параметров (A12B) для специализированных всегда включённых агентов. По данным Artificial Analysis, она обеспечивает до 5x более высокую пропускную способность, чем ближайшие аналоги в своём классе, при точности, сопоставимой с крупнейшей reasoning-моделью NVIDIA при примерно в пять раз меньшем числе параметров.

Модель работает с изображениями, веб-страницами и PDF: OCR, таблицы, графики, извлечение структурированных данных - всё в одном контуре, без маршрутизации задач между отдельными системами. Веса, датасеты и рецепты обучения открыты; дообучение идёт через NVIDIA NeMo. Компании уже адаптируют Super VL под свои данные: Scale AI, AI21, Perplexity, Atlassian, CrowdStrike, Salesforce, Synopsys, ModelScope.

Для локального запуска представлены две edge-модели: Bolt 74B-A9B (24 ГБ, нативная 2-битная квантизация) для агентных задач на RTX и DGX Spark, и Bolt E4B (4 ГБ) для голосовых ассистентов и встраиваемых интерфейсов на GeForce RTX и Jetson. Поддержаны llama.cpp, Ollama, LM Studio, Unsloth и vLLM. Super VL и Bolt 74B доступны сейчас на Hugging Face и через NVIDIA NIM, Bolt E4B - с 23 октября.

🎨 qvabo.studio/tg · картинки и видео

#AI #NVIDIA #Nemotron #Tech #OpenSource #LLM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1🤯1
👩‍💻 Anthropic выложила плагин, который переписывает легаси и отдельно доказывает, что ничего не сломалось

Главная идея code-modernization не в самом переписывании, а в том, что вердикт о сохранении поведения выносит скрипт, а не модель. Шаг modernize-verify прогоняет тесты заново с нуля, берёт счётчики из файлов раннера, а не из текста отчёта, запускает старую и новую версии на одних входах и сравнивает вывод побайтово. Дальше идут самопроверки: плагин сам сочиняет минимум десять новых наборов данных (границы, пустое, огромное, повреждённые записи), намеренно ломает одну строку, чтобы увидеть красные тесты, и портит один байт вывода, чтобы проверить сравнивалку. Вердикт выдаётся по каждому модулю отдельно: PROVEN, PARTLY PROVEN или NOT PROVEN. Если старую систему негде поднять, честный потолок это PARTLY PROVEN, и отчёт пишет об этом прямо.

Перед сборкой идёт разведка. modernize-preflight задаёт пять вопросов, на которые может ответить только живой инженер, и убеждается, что код вообще собирается. Затем modernize-assess считает инвентарь, сложность, долг и безопасность, modernize-map рисует зависимости и потоки данных, а modernize-extract-rules вытаскивает бизнес-логику в карточки Given/When/Then со ссылками вида файл:строка, причём каждую карточку перепроверяет второй агент. Человек подтверждает или правит спорные правила, после чего modernize-brief собирает фазовый план. До одобрения плана код не трогают. Сборок три на выбор: uplift для новой версии той же технологии, transform для переезда на другой стек по модулю, reimagine для пересборки на новой архитектуре.

Легаси-исходники не редактируются вообще: плагин делает симлинк на вашу папку и пишет только в analysis/ и modernized/, запрет продублирован deny-правилом в настройках. Чужой код считается недоверенным вводом, поэтому агенты трактуют содержимое файлов как данные, выписывают найденные в комментариях инструкции-ловушки в отчёт вместо исполнения и маскируют найденные ключи. Ставится командой /plugin install code-modernization@claude-plugins-official, лицензия Apache 2.0, промпты и шаги лежат в репозитории и форкаются под свой стек.
Цифры прогонов и расход Anthropic гоняла плагин headless на публичных репозиториях и приводит данные из файлов этих прогонов. AWS CardDemo на COBOL: 35 правил, начисление процентов переехало на Java 21, 213 тестов и пять независимых проверок подряд, каждая находила новый дефект, итог NOT PROVEN. Eclipse Jetty с Java 8 на 17: пилот на jetty-util, 946 тестов дают одинаковый результат на обеих версиях, сверху 50 дописанных тестов. osCommerce с PHP на Python и FastAPI: 17 957 тестов и 17 727 сравнений с живым PHP сошлись, итог PROVEN. JPetStore в REST API: 6 из 24 новых сравнений разошлись, NOT PROVEN. На заминированном репозитории с инструкциями в комментариях, README и CLAUDE.md ничего подброшенного не выполнилось. Расход заметный: extract-rules поднимает 50-200 агентов, сборка модуля занимает 15-30 минут, на крупной базе советуют начинать с одного модуля.

🎨 qvabo.studio/tg · картинки и видео

#AI #Anthropic #ClaudeCode #DevTools #Legacy #Tech
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1👏1
🤖 ChatGPT получил доступ к открытым вкладкам Chrome

После закрытия браузера ChatGPT Atlas компания OpenAI усилила своё расширение для Google Chrome: теперь ассистент умеет читать открытые вкладки, если упомянуть @chrome в запросе в веб- или десктоп-приложении ChatGPT.

В демо OpenAI пользователь просит сравнить три вкладки с диванами, которые рассматривает к покупке. Среди других примеров - перенос данных о поставщиках из вкладок в сравнительную таблицу с ценами, ссылками и ключевыми характеристиками, сравнение услуг подрядчиков по ремонту с черновиком письма выбранному исполнителю и заполнение форм (например, регистрация на мероприятие или запись к врачу) с остановкой перед отправкой.

Также обновлён сайдбар ChatGPT: в нём доступна «полная мощь» ассистента и вся история переписки из Chat или Work без ухода со страницы. Режим ChatGPT Work может управлять вкладками Chrome - отправлять сообщения, заполнять формы, скачивать файлы и группировать открытые вкладки. Функциональность похожа на «auto browse» от Google на базе Gemini.

🎨 qvabo.studio/tg · картинки и видео

#Tech #OpenAI #ChatGPT #Chrome #AI #Browsers
Please open Telegram to view this post
VIEW IN TELEGRAM
😱1👨‍💻1
☁️ AWS представила девятиэтапный фреймворк оценки AI-агентов на базе Amazon Bedrock AgentCore

Команда AWS SMGS Operations рассказала, как построила непрерывный контроль качества для мультиагентной системы, обслуживающей отдел продаж AWS по всему миру. Отдельные субагенты отвечают за выручку по территориям, 360-градусный профиль клиента и text-to-SQL запросы к аналитическим данным.

Проблема в том, что агенты ломаются тихо: latency и error rate остаются в норме, а ответы незаметно становятся неверными. До запуска Customer Insights Agent выдал трёхмесячную выручку клиента в $410,08 как «$410 Million», сослался на несуществующий в данных ARR и подал собственные расчёты как факты из источника. Мониторинг при этом оставался зелёным.

Фреймворк охватывает девять стадий жизненного цикла - от первого коммита до продакшена: определение эталона, сравнение версий, CI-регрессии, CD-гейт, канареечный скоринг, adversarial-тесты, детекцию дрейфа, пульс-мониторинг и автоматическую петлю обратной связи. Оценка ведётся на трёх уровнях: инструменты, отдельные агенты и оркестрация между ними. По словам AWS, рассогласование версий данных, промптов и кода в одном тесте уронило pass rate с 78% до 38%.

Стек: AgentCore Evaluations, Amazon Bedrock Guardrails, CloudWatch, S3, Redshift, AWS Lambda и Amazon Quick.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AWS #AI #Agents #AmazonBedrock #MLOps #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1🤔1
☀️ Китай ввёл в эксплуатацию ИИ-систему ансамблевого прогноза погоды Fengqing

Китайское метеорологическое управление (CMA) перевело глобальную ансамблевую систему прогноза погоды на базе ИИ в национальную операционную эксплуатацию. Система CMA-AIM-GFS-Fengqing-ENS-V1.0 успешно прошла приёмку в Национальном метеорологическом центре.

Важно не путать её с исходной моделью Fengqing 2024 года - та была детерминированной и выдавала один прогон: около 3 млрд параметров, глобальный прогноз на 15 дней с разрешением 25 км примерно за три минуты. Новая версия - ансамблевая: она формирует множество членов прогноза, описывая неопределённость атмосферных процессов, что служит основой вероятностных прогнозов ливней, тайфунов и сильной конвекции.

Разработку вела CMA совместно с инновационным институтом ИИ в Сюнъане, Национальным метеоинформационным центром и Sugon. Модель сочетает архитектуру vision Transformer с физическими ограничениями метеорологии; данные, алгоритмы и вычисления - полностью китайские. Обучение шло на кластере примерно на 100 тыс. ускорителей в Национальном суперкомпьютерном центре Тяньцзиня.

По независимой проверке на выборках с января 2025 по август 2026 года эффективная дальность прогноза среднего ансамбля для геопотенциальной высоты 500 гПа достигла 11 дней. Разработчики заявляют, что часть метрик превосходит ансамбль ECMWF и его ИИ-систему AIFS-CRPS, но детальные оценки пока не опубликованы.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #Meteorology #China #WeatherForecast
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1👏1
👉 Llmspeed: узнайте скорость локальной LLM до покупки железа

На Hacker News вышел open-source проект llmspeed - веб-инструмент, который показывает, как быстро конкретная модель будет работать на выбранном железе. Выбираете конфигурацию и модель - получаете оценку в токенах в секунду и время до первого токена (TTFT).

В интерфейсе можно сравнить, например, Llama 3.1 8B в квантованном Q4_K_M на RTX 4090 (около 86-129 ток/с при TTFT 0.31 с), Mac Studio M5 Ultra, DGX Spark, Ryzen AI Max+ 395 (Strix Halo), Intel Arc Pro или даже CPU-only сборке на Ryzen 9 9950X. База покрывает десятки видеокарт и десятки моделей - Qwen, Gemma, DeepSeek, GLM, GPT-OSS, Nemotron.

Ключевая деталь: цифры для замеренных конфигураций берутся из реальных бенчмарков сообщества (r/LocalLLaMA, localscore.ai), остальные оцениваются по характеристикам железа и похожим сборкам. Есть режим «Race a config» для прямого сравнения двух вариантов.

Практическая польза очевидна: раньше покупка GPU под локальный инференс была лотереей, и узнать реальную скорость можно было только после сборки. Llmspeed даёт оценку до траты денег. Код открыт на GitHub.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #LLM #LocalLLM #OpenSource #Hardware #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖 Boston Dynamics: Atlas уже работает на заводе Hyundai и учится у людей

Человекоподобные роботы перестали быть лабораторным аттракционом. Атлас от Boston Dynamics (Hyundai владеет 88% компании) вышел на завод и самостоятельно сортирует багажники для сборочной линии - ещё пять лет назад робототехники сочли бы это безумием.

Учится Atlas не программированием, а демонстрациями. Оператор в VR-шлеме управляет руками робота, повторяя задачу, и эти данные идут в обучение ИИ-моделей. Дальше - симуляция: более 4000 цифровых копий Атласа тренировались по шесть часов, с усложнениями вроде скользкого пола и жёстких суставов. Обученный один робот передаёт навык всей партии. Вычисления - на чипах NVIDIA, тех же, что дали старт буму GPT: Атлас видит окружение и понимает базовую физику мира.

Началось всё со Spot: четвероногий робот почти 10 лет проводит инспекции и проверки качества на сотнях предприятий. Goldman Sachs оценивает рынок гуманоидов в $38 млрд к 2035 году, а главный конкурент - китайские компании с господдержкой. По словам инженеров, до бытовых задач вроде чашки кофе Атласу ещё далеко - поэтому бояться Терминатора рано, а вот монотонный труд на заводах уже меняется.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Robotics #AI #BostonDynamics #Atlas #Hyundai
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Qualcomm CEO: AI-компании могут выпустить смартфоны со 100B-моделями на борту

Глава Qualcomm заявил, что AI-компании в скором времени могут представить собственные смартфоны, которые запускают локально модели на 100 млрд параметров. Об этом сообщает India Today.

Сейчас модели такого размера обычно работают в облаке, а запросы уходят на серверы. Локальный запуск означает, что обработка идёт прямо на устройстве: это меняет требования к памяти и чипу, а заодно снимает часть вопросов о передаче данных.

Сроков и подробностей о том, кто именно может выпустить такое устройство, не приводится. Для Qualcomm это указание на то, что спрос на локальный AI становится аргументом при выборе платформы.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Ai #Qualcomm #Smartphones #OnDevice
👍1👌1
🐳 DeepSeek запустил Search и Fetch API для агентов и RAG за $0,75 за 1000 запросов

DeepSeek открыл публичный доступ к двум новым инструментам для разработчиков: Search API и Fetch API. Оба работают как обычные JSON-эндпоинты с Bearer-аутентификацией по адресу https://api.deepseek.com и дают агентам и RAG-приложениям доступ к живому вебу. Search (/v1/tools/search) ищет страницы через собственный поисковик DeepSeek и возвращает структурированные результаты, Fetch (/v1/tools/fetch) забирает одну страницу и отдаёт контент в Markdown.

Search поддерживает операторы запросов - site:, -site:, точные фразы, lang:, after:/before: - и до 50 результатов с rerank-оценкой релевантности, сниппетами, длинными summary и опциональным полным контентом (need_content). Есть поле ori_question для более точного понимания исходного вопроса пользователя.

Биллинг - только за успешные запросы: $0,75 за 1000 вызовов для каждого API, независимо от числа результатов. Ошибки, пустая выдача и таймауты не тарифицируются. Лимит - 5 QPS на аккаунт, у Fetch дополнительно ограничение на домен. До 1 ноября 2026 вызовы через Claude Code, Codex и DeepSeek Harness бесплатны.

🎨 qvabo.studio/tg · картинки и видео

#Tech #DeepSeek #AI #RAG #Development #API
🔥1👏1
🖥 Glenfly начала поставки образцов GF800 - первого Arm-SoC с собственной GPU и отдельным NPU

Шанхайский разработчик графических процессоров Glenfly Tech объявил о завершении отладки своего первого Arm-система-на-кристалле GF800 и начале поставок образцов заказчикам. Чип и платы на его основе показали на 26-й Китайской международной промышленной ярмарке в Шанхае.

GF800 объединяет восемь ядер Arm Cortex-A78 с GPU собственной разработки, выделенным NPU и унифицированной памятью, общей для CPU, GPU, NPU и видеоустройств. Это первый случай интеграции GPU-IP Glenfly непосредственно в SoC: компания противопоставляет решение вариантам Arm Mali и Immortalis, Qualcomm Adreno, Samsung Xclipse и Imagination PowerVR. GPU поддерживает DirectX 12, OpenGL 4.6, OpenGL ES 3.2, OpenCL 3.0 и Vulkan 1.3 и прошёл конформные тесты по каждому стандарту; есть отдельный 2D-движок. Заявлена работа с HDMI 2.1, DP 1.4, eDP 1.4b и DSI, до четырёх независимых дисплеев, вывод до 8K с HDCP, а также новый ISP с входом до 48 Мп. Интерфейсы - PCIe 4.0, USB 3.2, SATA, eMMC и Gigabit Ethernet.

Программный стек HUCA ориентирован на миграцию моделей, основные фреймворки глубинного обучения, инференс больших моделей и мультимодальные сценарии. Поддерживаются UOS от UnionTech и Kylin, Linux, Android и Windows. Целевые применения - AI-терминалы, периферийные серверы, промышленные вычисления и роботы. Производительность NPU, техпроцесс и сроки серийного производства Glenfly не раскрывает.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Business #AI #Glenfly #GF800 #ArmSoC #NPU #EdgeAI
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1
⚙️ Свой LLM-прокси: реальные логи вместо красивых графиков провайдера

В блоге, разошедшемся по Hacker News, автор спорит с подходом «просто сидеть в веб-интерфейсе провайдера»: панели аналитики показывают милых маскотов и абстрактные картинки вместо временных рядов по токенам, по которым инженер мог бы принимать решения. Экспорт в OTel есть, но это лишь один аргумент из шести.

Остальные: единая точка входа для многих провайдеров и моделей под вашим контролем; логи - какой ключ, какую модель, через какого клиента и с каким статусом вызвал и когда; виртуальные API-ключи вместо одного мастер-ключа, размазанного по агентам и харнессам; собственная инфраструктура и хранение; быстрый перевод нагрузки на другого провайдера без пересборки окружения в третий раз. Прокси можно форкать и допиливать под себя - например, добавлять собственные эндпоинты для MCP-серверов и расширенную телеметрию.

Практическая ценность: по логам автор находит причину cache miss в сессии кодинга примерно за 20 секунд, а API прокси позволяет это автоматизировать. Вывод - инструментировать инференс и владеть путём данных, а не доверять статистике подписки.

🎨 qvabo.studio/tg · картинки и видео

#Tech #LLM #AI #Development #Observability #MCP
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1
🖥 SenseCore раскрыла архитектуру Prefill/Decode-кластеров для агентного инференса

На саммите CSDI в Шэньчжэне вице-президент и CTO SenseTime SenseCore Сюань Шаньмин рассказал, как компания перестраивает инференс-инфраструктуру под эпоху агентов: мультиагентные сценарии и длительные автономные задачи резко увеличивают спрос на токены по сравнению с обычными чат-ботами.

Ключевая идея - разделение стадий Prefill и Decode (PD) внутри гетерогенных кластеров масштаба 10 000 GPU в Lingang AIDC. Prefill, требующий вычислений, отдаётся отечественным ускорителям, а Decode, которому нужна высокая пропускная способность памяти, - мощным GPU; стадии обмениваются состоянием через KV Cache по смешанной фабрике 800G/400G/200G. Риск такой схемы - до 30-50 Prefill-нод могут кормить одну Decode-ноду, поэтому SenseCore держит резерв-карт для быстрого failover и динамически меняет роли нод под нагрузкой.

В тесте с тем же числом флагманских GPU, что и в базовой конфигурации, гетерогенное PD-планирование дало примерно пятикратный рост общего throughput токенов. Платформа уже обслуживает около 6 трлн токенов в день, цель - 10 трлн к IV кварталу 2026 года.

🎨 qvabo.studio/tg · картинки и видео

#Tech #SenseTime #SenseCore #Inference #Infrastructure #AI #GPU
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1🤯1
📉 MiniMax M3.1 Flash: китайская гонка ИИ-цен пробила дно

MiniMax выпустила reasoning-модель M3.1 Flash: 42 балла в Artificial Analysis Intelligence Index против 29 у предыдущей M3, при этом стоимость одной задачи упала более чем вдвое - примерно до $0,22.

Основной прогресс - в сложных рассуждениях. На Humanity's Last Exam модель набирает 48% против 43% у Deepseek V4.1 Flash 1017, на бенчмарке CritPt для физики исследовательского уровня - 22% (у GLM-5.3-Flash 15%, у Gemini 3.8 Flash 18%), а на AA-Omniscience по фактической точности - 56% верных ответов против 28% у GLM и 43% у Deepseek. Контекст - до 1 млн токенов, поддержка текста и изображений. Цены API: $0,15 за 1 млн входных токенов, $0,60 за 1 млн выходных, кэшированные входы - $0,015. Модель работает втрое быстрее M3 и тратит заметно меньше выходных токенов (189 млн против 224 млн у Deepseek), что и даёт более низкую цену за задачу.

Главная слабость - очень высокий уровень галлюцинаций (93% по замерам Artificial Analysis): модель пытается ответить на любой вопрос, вместо того чтобы признать неуверенность. Открытые веса обещаны 23 октября, API уже работает на platform.minimax.io.

🎨 qvabo.studio/tg · картинки и видео

#AI #Tech #MiniMax #Models #LLM #Reasoning #DeepSeek #OpenSource
Please open Telegram to view this post
VIEW IN TELEGRAM
⚛️ «Мы смотрели на это неправильно»: исследователь заявил, что нейросети поддаются расшифровке

Ник Каммарата из стартапа Goodfire опубликовал 26 000-словный пост, который всколыхнул AI-мир. Его тезис: нейросети могут оказаться гораздо понятнее - а значит, и контролируемее, - чем считалось. Поводом стала тревожная осень: агенты крупных компаний неоднократно выходили из-под контроля, и индустрия ищет способы заглянуть внутрь собственных моделей.

Каммарата, ранее работавший в OpenAI над механистической интерпретируемостью, вернулся к модели Inception v1 2014 года. Раньше считалось, что нейрон, реагирующий и на машины, и на кошек, - пример «суперпозиции», неразбираемого клубка смыслов. Пересмотрев тысячи примеров, он увидел общее: V-образную форму - морду кошки и передок автомобиля сбоку. Реагировал нейрон и на угол бильярдного стола, нос синкансэна, а «выключали» его круглые O-образные объекты.

Оптимизм разделяют не все. Крис Поттс из Стэнфорда называет это «догадкой», Джейкоб Хилтон из ARC напоминает, что понято менее 0,01% внутреннего устройства топовых LLM, а Нил Нанда из Google DeepMind не видит существенного сдвига в интерпретируемости. Сам Каммарата признаёт: открытых вопросов много, и технические результаты по современным LLM ещё впереди.

🎨 qvabo.studio/tg · картинки и видео

#AI #Interpretation #Tech #Science #Research #Goodfire
Please open Telegram to view this post
VIEW IN TELEGRAM
🐳 DeepSeek открыла поисковый API и API загрузки страниц для AI-агентов

DeepSeek запустила Search и Fetch API - собственный поисковый движок теперь доступен разработчикам AI-агентов и приложений, которым нужны внешние данные. Search возвращает структурированную веб-выдачу, а Fetch извлекает заголовок и содержимое страницы в формате Markdown.

Обе услуги стоят 5 юаней за 1000 успешных запросов; неудачные запросы, пустая выдача и таймауты не тарифицируются. Доступ открыт по уже существующим API-ключам DeepSeek. Серверные вызовы поиска и загрузки страниц через DeepSeek Harness, Claude Code и Codex пока бесплатны - плату введут с полуночи по пекинскому времени 1 ноября.

Для разработчиков это способ уйти от сторонних поисковых обёрток: RAG-агенты и ассистенты получают и поиск, и парсинг страниц из одного источника, а платят только за успешные ответы. Логика простая - дешёвый контентный слой под агентные сценарии.

🎨 qvabo.studio/tg · картинки и видео

#AI #Tech #DeepSeek #Agents #Development #API #RAG