Генеральный директор и сооснователь Cerebras Systems Эндрю Фельдман считает, что персональный ИИ-ассистент в каждом доме - вопрос ближайшего будущего. Выступая на сцене TechCrunch Disrupt 2026, он ответил на вопрос, что нужно, чтобы ИИ стал бытовым прибором: «На самом деле, я не думаю, что это так уж далеко».
По его прогнозу, ассистенты будут работать локально и гибридно: часть вычислений - на устройстве, часть - в облаке, как в смартфоне. Такие агенты «узнают вас очень хорошо», получат собственный периметр безопасности и доступ к банковским картам, чтобы совершать покупки за пользователя. Фельдман указывает на рост потребительских ИИ-агентов - например, Meta* Muse и стартап Instinct с оценкой $10 млрд - как на признак того, что технология находит применение у обычных пользователей.
Сам CEO уже использует «набор агентов»: они просматривают его календарь и собирают информацию о людях перед созвонами. При этом он подчёркивает: потребительскую идею пусть придумывают другие - Cerebras строит инфраструктуру, платформу, на которой взлетают чужие замыслы.
*компания Meta признана экстремистской и запрещена на территории Российской Федерации
🎨 qvabo.studio/tg · картинки и видео
#AI #Cerebras #Agents #Tech #Infrastructure
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🤯1
Dobot выпустила DOBOT VEGA 7 - семиосевой манипулятор с силовым управлением, спроектированный с прицелом на embodied AI. Премьера прошла на выставке China International Industry Fair в Шанхае. Рука позиционируется для колёсных двуруких роботов, мобильной манипуляции на производстве и разработки embodied AI.
Главный акцент - надёжность: заявленный MTBF 50 000 часов. В каждом шарнире стоит электромагнитный тормоз, при внезапной потере питания рука удерживает позу и тормозит за 18 мс. Корпус защищён по IP54. В каждом суставе также установлен датчик момента: точность силового контроля от 0,15 Н, момента - от 0,05 Н·м, разрешение от 0,01 Н·м. Это даёт контактное sensing, податливое управление, детекцию столкновений и обучение «за руку».
Основные характеристики: полезная нагрузка 7 кг, радиус 725 мм, повторяемость ±0,03 мм. Седьмая ось добавляет избыточность - рука достигает точки в разных позах, что полезно для работы внутри оборудования и в тесном пространстве двух рук. Кабели проложены через полый корпус, на конце - два интерфейса расширения с EtherCAT, CAN и RS-485, питание 3 А номинал / 5 А пик. Отдельно Dobot подчёркивает пользу датчиков момента для сбора данных: при записи телеоперации или демонстраций на реальном роботе они фиксируют контактные усилия вместе с движением - дополнительный сигнал для обучения помимо видео и позиций суставов. Цены и даты поставок нет.
🎨 qvabo.studio/tg · картинки и видео
#Tech #AI #Robotics #Dobot #VEGA7 #EmbodiedAI
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1👌1
Команда роботакси Hello Inc. 12 октября представила HelloWorld - генеративную world-модель, которая создаёт данные для вождения по запросу и позволяет интерактивно тестировать политики управления. Опубликованы статья на arXiv и страница проекта.
Модель сочетает управление сценой, непрерывную генерацию, мультисенсорное наблюдение и эффективный инференс. Инженеры могут редактировать автомобили, пешеходов и их траектории - например, добавить переходящего дорогу пешехода, изменить маршрут машины впереди или переключить погоду между дождём, снегом, днём и ночью. HelloWorld генерирует согласованные многовидовые видео с камер и данные лидара. Второй способ задания сцен - обычный текст: описание превращается в нужные модели условия (стройплощадки, плотный трафик, туман, разное освещение).
Цель - закрыть пробелы в реальных данных. Редкие опасные ситуации и необычные сочетания погоды и трафика трудно набрать обычным сбором на дорогах, а генерация по запросу даёт целевые обучающие данные и контрфактические тесты: один момент переигрывается с изменённым элементом, чтобы проверить реакцию политики вождения.
По данным статьи, у HelloWorld около 2 млрд параметров, семь камер, условный вывод лидара и причинная генерация за несколько шагов - это должно сохранять скорость инференса для повторяемой интерактивной симуляции. Сроки применения модели в тестировании машин компания не раскрыла.
🎨 qvabo.studio/tg · картинки и видео
#Tech #AI #WorldModels #AutoDriving #RoboTaxi #HelloWorld #MachineLearning
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1🆒1
AWS представила решение для агентной обработки документов (IDP) на базе Amazon Bedrock AgentCore. Восемь специализированных агентов работают в двух графовых процессах, построенных на открытом SDK Strands Agents, и классифицируют, извлекают, валидируют данные и обучаются на каждом новом формате без ручной настройки шаблонов.
Как это устроено: Analyzer извлекает текст через Amazon Textract, Matcher ищет похожие документы по векторному сходству в S3 Vectors. Для нового типа запускается training workflow - агенты Instructions, Extractor и Validator генерируют промпты, проверяют результат по схемам и бизнес-правилам в Aurora DSQL. При ошибке Instructions Fixer уточняет промпт и повторяет попытку, после успеха Save Instructions сохраняет инструкции. Для известных форматов работает automation workflow с уже готовыми правилами.
Инфраструктура: документы приходят через Amazon SES или S3, EventBridge и Lambda создают задачу в DynamoDB и запускают AgentCore Runtime. Доступ к ресурсам обеспечивают AgentCore Identity и Cognito, а Lambda-функции становятся инструментами агентов через MCP-интерфейс AgentCore Gateway. Мониторинг - через AgentCore Observability и CloudWatch. Развёртывание шести CloudFormation-стеков через AWS CDK занимает 15-20 минут.
🎨 qvabo.studio/tg · картинки и видео
#Tech #AWS #Bedrock #AgentCore #IDP #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1🤝1
Команда USTC под руководством Пань Цзяньвэя и Чжан Цяна показала низкошумовое преобразование частоты фотонов из УФ-диапазона (393 нм) в телеком-полосу 1550 нм. Работа опубликована в Physical Review Letters.
Ловушки ионов - одна из ведущих платформ квантовых сетей: долгая когерентность и точное управление. Но ионы излучают в ультрафиолете, который быстро поглощается в оптоволокне. Спасает квантовое преобразование частоты (QFC), сохраняющее квантовое состояние фотона, - однако раньше эффективность была низкой, шум высоким, а запутанность между ионными узлами ограничивалась метрами.
Исследователи построили количественную модель влияния дефектов доменов кристалла на квази-фазовый синхронизм и подтвердили её экспериментально. Обнаружив, что при коротковолновой накачке преобразование и главный источник шума (спонтанное параметрическое рассеяние) смещаются в противоположные стороны, они подавили шум накачки.
Итог: эффективность 28,8% «от конца до конца» и шум 35 отсчётов в секунду - примерно в 30 раз эффективнее и на два порядка тише предыдущих работ. Модуль уже применён с кубитами на ионах кальция-40: сигнал/шум 120:1, дальняя запутанность и device-independent QKD. Это ключевой компонент масштабируемых квантовых повторителей.
🎨 qvabo.studio/tg · картинки и видео
#Tech #QuantumNets #Photonics #QuantumComputing #Science #USTC
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1
NVIDIA выпустила Nemotron 3.5 Super VL - открытую мультимодальную модель на 120 млрд параметров (A12B) для специализированных всегда включённых агентов. По данным Artificial Analysis, она обеспечивает до 5x более высокую пропускную способность, чем ближайшие аналоги в своём классе, при точности, сопоставимой с крупнейшей reasoning-моделью NVIDIA при примерно в пять раз меньшем числе параметров.
Модель работает с изображениями, веб-страницами и PDF: OCR, таблицы, графики, извлечение структурированных данных - всё в одном контуре, без маршрутизации задач между отдельными системами. Веса, датасеты и рецепты обучения открыты; дообучение идёт через NVIDIA NeMo. Компании уже адаптируют Super VL под свои данные: Scale AI, AI21, Perplexity, Atlassian, CrowdStrike, Salesforce, Synopsys, ModelScope.
Для локального запуска представлены две edge-модели: Bolt 74B-A9B (24 ГБ, нативная 2-битная квантизация) для агентных задач на RTX и DGX Spark, и Bolt E4B (4 ГБ) для голосовых ассистентов и встраиваемых интерфейсов на GeForce RTX и Jetson. Поддержаны llama.cpp, Ollama, LM Studio, Unsloth и vLLM. Super VL и Bolt 74B доступны сейчас на Hugging Face и через NVIDIA NIM, Bolt E4B - с 23 октября.
🎨 qvabo.studio/tg · картинки и видео
#AI #NVIDIA #Nemotron #Tech #OpenSource #LLM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1🤯1
Главная идея code-modernization не в самом переписывании, а в том, что вердикт о сохранении поведения выносит скрипт, а не модель. Шаг
modernize-verify прогоняет тесты заново с нуля, берёт счётчики из файлов раннера, а не из текста отчёта, запускает старую и новую версии на одних входах и сравнивает вывод побайтово. Дальше идут самопроверки: плагин сам сочиняет минимум десять новых наборов данных (границы, пустое, огромное, повреждённые записи), намеренно ломает одну строку, чтобы увидеть красные тесты, и портит один байт вывода, чтобы проверить сравнивалку. Вердикт выдаётся по каждому модулю отдельно: PROVEN, PARTLY PROVEN или NOT PROVEN. Если старую систему негде поднять, честный потолок это PARTLY PROVEN, и отчёт пишет об этом прямо.Перед сборкой идёт разведка.
modernize-preflight задаёт пять вопросов, на которые может ответить только живой инженер, и убеждается, что код вообще собирается. Затем modernize-assess считает инвентарь, сложность, долг и безопасность, modernize-map рисует зависимости и потоки данных, а modernize-extract-rules вытаскивает бизнес-логику в карточки Given/When/Then со ссылками вида файл:строка, причём каждую карточку перепроверяет второй агент. Человек подтверждает или правит спорные правила, после чего modernize-brief собирает фазовый план. До одобрения плана код не трогают. Сборок три на выбор: uplift для новой версии той же технологии, transform для переезда на другой стек по модулю, reimagine для пересборки на новой архитектуре.Легаси-исходники не редактируются вообще: плагин делает симлинк на вашу папку и пишет только в
analysis/ и modernized/, запрет продублирован deny-правилом в настройках. Чужой код считается недоверенным вводом, поэтому агенты трактуют содержимое файлов как данные, выписывают найденные в комментариях инструкции-ловушки в отчёт вместо исполнения и маскируют найденные ключи. Ставится командой /plugin install code-modernization@claude-plugins-official, лицензия Apache 2.0, промпты и шаги лежат в репозитории и форкаются под свой стек.Цифры прогонов и расход Anthropic гоняла плагин headless на публичных репозиториях и приводит данные из файлов этих прогонов. AWS CardDemo на COBOL: 35 правил, начисление процентов переехало на Java 21, 213 тестов и пять независимых проверок подряд, каждая находила новый дефект, итог NOT PROVEN. Eclipse Jetty с Java 8 на 17: пилот на jetty-util, 946 тестов дают одинаковый результат на обеих версиях, сверху 50 дописанных тестов. osCommerce с PHP на Python и FastAPI: 17 957 тестов и 17 727 сравнений с живым PHP сошлись, итог PROVEN. JPetStore в REST API: 6 из 24 новых сравнений разошлись, NOT PROVEN. На заминированном репозитории с инструкциями в комментариях, README и CLAUDE.md ничего подброшенного не выполнилось. Расход заметный: extract-rules поднимает 50-200 агентов, сборка модуля занимает 15-30 минут, на крупной базе советуют начинать с одного модуля.
🎨 qvabo.studio/tg · картинки и видео
#AI #Anthropic #ClaudeCode #DevTools #Legacy #Tech
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1👏1
После закрытия браузера ChatGPT Atlas компания OpenAI усилила своё расширение для Google Chrome: теперь ассистент умеет читать открытые вкладки, если упомянуть @chrome в запросе в веб- или десктоп-приложении ChatGPT.
В демо OpenAI пользователь просит сравнить три вкладки с диванами, которые рассматривает к покупке. Среди других примеров - перенос данных о поставщиках из вкладок в сравнительную таблицу с ценами, ссылками и ключевыми характеристиками, сравнение услуг подрядчиков по ремонту с черновиком письма выбранному исполнителю и заполнение форм (например, регистрация на мероприятие или запись к врачу) с остановкой перед отправкой.
Также обновлён сайдбар ChatGPT: в нём доступна «полная мощь» ассистента и вся история переписки из Chat или Work без ухода со страницы. Режим ChatGPT Work может управлять вкладками Chrome - отправлять сообщения, заполнять формы, скачивать файлы и группировать открытые вкладки. Функциональность похожа на «auto browse» от Google на базе Gemini.
🎨 qvabo.studio/tg · картинки и видео
#Tech #OpenAI #ChatGPT #Chrome #AI #Browsers
Please open Telegram to view this post
VIEW IN TELEGRAM
😱1👨💻1
Команда AWS SMGS Operations рассказала, как построила непрерывный контроль качества для мультиагентной системы, обслуживающей отдел продаж AWS по всему миру. Отдельные субагенты отвечают за выручку по территориям, 360-градусный профиль клиента и text-to-SQL запросы к аналитическим данным.
Проблема в том, что агенты ломаются тихо: latency и error rate остаются в норме, а ответы незаметно становятся неверными. До запуска Customer Insights Agent выдал трёхмесячную выручку клиента в $410,08 как «$410 Million», сослался на несуществующий в данных ARR и подал собственные расчёты как факты из источника. Мониторинг при этом оставался зелёным.
Фреймворк охватывает девять стадий жизненного цикла - от первого коммита до продакшена: определение эталона, сравнение версий, CI-регрессии, CD-гейт, канареечный скоринг, adversarial-тесты, детекцию дрейфа, пульс-мониторинг и автоматическую петлю обратной связи. Оценка ведётся на трёх уровнях: инструменты, отдельные агенты и оркестрация между ними. По словам AWS, рассогласование версий данных, промптов и кода в одном тесте уронило pass rate с 78% до 38%.
Стек: AgentCore Evaluations, Amazon Bedrock Guardrails, CloudWatch, S3, Redshift, AWS Lambda и Amazon Quick.
🎨 qvabo.studio/tg · картинки и видео
#Tech #AWS #AI #Agents #AmazonBedrock #MLOps #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1🤔1
Китайское метеорологическое управление (CMA) перевело глобальную ансамблевую систему прогноза погоды на базе ИИ в национальную операционную эксплуатацию. Система CMA-AIM-GFS-Fengqing-ENS-V1.0 успешно прошла приёмку в Национальном метеорологическом центре.
Важно не путать её с исходной моделью Fengqing 2024 года - та была детерминированной и выдавала один прогон: около 3 млрд параметров, глобальный прогноз на 15 дней с разрешением 25 км примерно за три минуты. Новая версия - ансамблевая: она формирует множество членов прогноза, описывая неопределённость атмосферных процессов, что служит основой вероятностных прогнозов ливней, тайфунов и сильной конвекции.
Разработку вела CMA совместно с инновационным институтом ИИ в Сюнъане, Национальным метеоинформационным центром и Sugon. Модель сочетает архитектуру vision Transformer с физическими ограничениями метеорологии; данные, алгоритмы и вычисления - полностью китайские. Обучение шло на кластере примерно на 100 тыс. ускорителей в Национальном суперкомпьютерном центре Тяньцзиня.
По независимой проверке на выборках с января 2025 по август 2026 года эффективная дальность прогноза среднего ансамбля для геопотенциальной высоты 500 гПа достигла 11 дней. Разработчики заявляют, что часть метрик превосходит ансамбль ECMWF и его ИИ-систему AIFS-CRPS, но детальные оценки пока не опубликованы.
🎨 qvabo.studio/tg · картинки и видео
#Tech #AI #Meteorology #China #WeatherForecast
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1👏1
На Hacker News вышел open-source проект llmspeed - веб-инструмент, который показывает, как быстро конкретная модель будет работать на выбранном железе. Выбираете конфигурацию и модель - получаете оценку в токенах в секунду и время до первого токена (TTFT).
В интерфейсе можно сравнить, например, Llama 3.1 8B в квантованном Q4_K_M на RTX 4090 (около 86-129 ток/с при TTFT 0.31 с), Mac Studio M5 Ultra, DGX Spark, Ryzen AI Max+ 395 (Strix Halo), Intel Arc Pro или даже CPU-only сборке на Ryzen 9 9950X. База покрывает десятки видеокарт и десятки моделей - Qwen, Gemma, DeepSeek, GLM, GPT-OSS, Nemotron.
Ключевая деталь: цифры для замеренных конфигураций берутся из реальных бенчмарков сообщества (r/LocalLLaMA, localscore.ai), остальные оцениваются по характеристикам железа и похожим сборкам. Есть режим «Race a config» для прямого сравнения двух вариантов.
Практическая польза очевидна: раньше покупка GPU под локальный инференс была лотереей, и узнать реальную скорость можно было только после сборки. Llmspeed даёт оценку до траты денег. Код открыт на GitHub.
🎨 qvabo.studio/tg · картинки и видео
#Tech #AI #LLM #LocalLLM #OpenSource #Hardware #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
Человекоподобные роботы перестали быть лабораторным аттракционом. Атлас от Boston Dynamics (Hyundai владеет 88% компании) вышел на завод и самостоятельно сортирует багажники для сборочной линии - ещё пять лет назад робототехники сочли бы это безумием.
Учится Atlas не программированием, а демонстрациями. Оператор в VR-шлеме управляет руками робота, повторяя задачу, и эти данные идут в обучение ИИ-моделей. Дальше - симуляция: более 4000 цифровых копий Атласа тренировались по шесть часов, с усложнениями вроде скользкого пола и жёстких суставов. Обученный один робот передаёт навык всей партии. Вычисления - на чипах NVIDIA, тех же, что дали старт буму GPT: Атлас видит окружение и понимает базовую физику мира.
Началось всё со Spot: четвероногий робот почти 10 лет проводит инспекции и проверки качества на сотнях предприятий. Goldman Sachs оценивает рынок гуманоидов в $38 млрд к 2035 году, а главный конкурент - китайские компании с господдержкой. По словам инженеров, до бытовых задач вроде чашки кофе Атласу ещё далеко - поэтому бояться Терминатора рано, а вот монотонный труд на заводах уже меняется.
🎨 qvabo.studio/tg · картинки и видео
#Tech #Robotics #AI #BostonDynamics #Atlas #Hyundai
Please open Telegram to view this post
VIEW IN TELEGRAM
📱 Qualcomm CEO: AI-компании могут выпустить смартфоны со 100B-моделями на борту
Глава Qualcomm заявил, что AI-компании в скором времени могут представить собственные смартфоны, которые запускают локально модели на 100 млрд параметров. Об этом сообщает India Today.
Сейчас модели такого размера обычно работают в облаке, а запросы уходят на серверы. Локальный запуск означает, что обработка идёт прямо на устройстве: это меняет требования к памяти и чипу, а заодно снимает часть вопросов о передаче данных.
Сроков и подробностей о том, кто именно может выпустить такое устройство, не приводится. Для Qualcomm это указание на то, что спрос на локальный AI становится аргументом при выборе платформы.
🎨 qvabo.studio/tg · картинки и видео
#Tech #Ai #Qualcomm #Smartphones #OnDevice
Глава Qualcomm заявил, что AI-компании в скором времени могут представить собственные смартфоны, которые запускают локально модели на 100 млрд параметров. Об этом сообщает India Today.
Сейчас модели такого размера обычно работают в облаке, а запросы уходят на серверы. Локальный запуск означает, что обработка идёт прямо на устройстве: это меняет требования к памяти и чипу, а заодно снимает часть вопросов о передаче данных.
Сроков и подробностей о том, кто именно может выпустить такое устройство, не приводится. Для Qualcomm это указание на то, что спрос на локальный AI становится аргументом при выборе платформы.
🎨 qvabo.studio/tg · картинки и видео
#Tech #Ai #Qualcomm #Smartphones #OnDevice
👍1👌1
🐳 DeepSeek запустил Search и Fetch API для агентов и RAG за $0,75 за 1000 запросов
DeepSeek открыл публичный доступ к двум новым инструментам для разработчиков: Search API и Fetch API. Оба работают как обычные JSON-эндпоинты с Bearer-аутентификацией по адресу
Search поддерживает операторы запросов -
Биллинг - только за успешные запросы: $0,75 за 1000 вызовов для каждого API, независимо от числа результатов. Ошибки, пустая выдача и таймауты не тарифицируются. Лимит - 5 QPS на аккаунт, у Fetch дополнительно ограничение на домен. До 1 ноября 2026 вызовы через Claude Code, Codex и DeepSeek Harness бесплатны.
🎨 qvabo.studio/tg · картинки и видео
#Tech #DeepSeek #AI #RAG #Development #API
DeepSeek открыл публичный доступ к двум новым инструментам для разработчиков: Search API и Fetch API. Оба работают как обычные JSON-эндпоинты с Bearer-аутентификацией по адресу
https://api.deepseek.com и дают агентам и RAG-приложениям доступ к живому вебу. Search (/v1/tools/search) ищет страницы через собственный поисковик DeepSeek и возвращает структурированные результаты, Fetch (/v1/tools/fetch) забирает одну страницу и отдаёт контент в Markdown.Search поддерживает операторы запросов -
site:, -site:, точные фразы, lang:, after:/before: - и до 50 результатов с rerank-оценкой релевантности, сниппетами, длинными summary и опциональным полным контентом (need_content). Есть поле ori_question для более точного понимания исходного вопроса пользователя.Биллинг - только за успешные запросы: $0,75 за 1000 вызовов для каждого API, независимо от числа результатов. Ошибки, пустая выдача и таймауты не тарифицируются. Лимит - 5 QPS на аккаунт, у Fetch дополнительно ограничение на домен. До 1 ноября 2026 вызовы через Claude Code, Codex и DeepSeek Harness бесплатны.
🎨 qvabo.studio/tg · картинки и видео
#Tech #DeepSeek #AI #RAG #Development #API
🔥1👏1
Шанхайский разработчик графических процессоров Glenfly Tech объявил о завершении отладки своего первого Arm-система-на-кристалле GF800 и начале поставок образцов заказчикам. Чип и платы на его основе показали на 26-й Китайской международной промышленной ярмарке в Шанхае.
GF800 объединяет восемь ядер Arm Cortex-A78 с GPU собственной разработки, выделенным NPU и унифицированной памятью, общей для CPU, GPU, NPU и видеоустройств. Это первый случай интеграции GPU-IP Glenfly непосредственно в SoC: компания противопоставляет решение вариантам Arm Mali и Immortalis, Qualcomm Adreno, Samsung Xclipse и Imagination PowerVR. GPU поддерживает DirectX 12, OpenGL 4.6, OpenGL ES 3.2, OpenCL 3.0 и Vulkan 1.3 и прошёл конформные тесты по каждому стандарту; есть отдельный 2D-движок. Заявлена работа с HDMI 2.1, DP 1.4, eDP 1.4b и DSI, до четырёх независимых дисплеев, вывод до 8K с HDCP, а также новый ISP с входом до 48 Мп. Интерфейсы - PCIe 4.0, USB 3.2, SATA, eMMC и Gigabit Ethernet.
Программный стек HUCA ориентирован на миграцию моделей, основные фреймворки глубинного обучения, инференс больших моделей и мультимодальные сценарии. Поддерживаются UOS от UnionTech и Kylin, Linux, Android и Windows. Целевые применения - AI-терминалы, периферийные серверы, промышленные вычисления и роботы. Производительность NPU, техпроцесс и сроки серийного производства Glenfly не раскрывает.
🎨 qvabo.studio/tg · картинки и видео
#Tech #Business #AI #Glenfly #GF800 #ArmSoC #NPU #EdgeAI
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1
В блоге, разошедшемся по Hacker News, автор спорит с подходом «просто сидеть в веб-интерфейсе провайдера»: панели аналитики показывают милых маскотов и абстрактные картинки вместо временных рядов по токенам, по которым инженер мог бы принимать решения. Экспорт в OTel есть, но это лишь один аргумент из шести.
Остальные: единая точка входа для многих провайдеров и моделей под вашим контролем; логи - какой ключ, какую модель, через какого клиента и с каким статусом вызвал и когда; виртуальные API-ключи вместо одного мастер-ключа, размазанного по агентам и харнессам; собственная инфраструктура и хранение; быстрый перевод нагрузки на другого провайдера без пересборки окружения в третий раз. Прокси можно форкать и допиливать под себя - например, добавлять собственные эндпоинты для MCP-серверов и расширенную телеметрию.
Практическая ценность: по логам автор находит причину cache miss в сессии кодинга примерно за 20 секунд, а API прокси позволяет это автоматизировать. Вывод - инструментировать инференс и владеть путём данных, а не доверять статистике подписки.
🎨 qvabo.studio/tg · картинки и видео
#Tech #LLM #AI #Development #Observability #MCP
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🔥1
На саммите CSDI в Шэньчжэне вице-президент и CTO SenseTime SenseCore Сюань Шаньмин рассказал, как компания перестраивает инференс-инфраструктуру под эпоху агентов: мультиагентные сценарии и длительные автономные задачи резко увеличивают спрос на токены по сравнению с обычными чат-ботами.
Ключевая идея - разделение стадий Prefill и Decode (PD) внутри гетерогенных кластеров масштаба 10 000 GPU в Lingang AIDC. Prefill, требующий вычислений, отдаётся отечественным ускорителям, а Decode, которому нужна высокая пропускная способность памяти, - мощным GPU; стадии обмениваются состоянием через KV Cache по смешанной фабрике 800G/400G/200G. Риск такой схемы - до 30-50 Prefill-нод могут кормить одну Decode-ноду, поэтому SenseCore держит резерв-карт для быстрого failover и динамически меняет роли нод под нагрузкой.
В тесте с тем же числом флагманских GPU, что и в базовой конфигурации, гетерогенное PD-планирование дало примерно пятикратный рост общего throughput токенов. Платформа уже обслуживает около 6 трлн токенов в день, цель - 10 трлн к IV кварталу 2026 года.
🎨 qvabo.studio/tg · картинки и видео
#Tech #SenseTime #SenseCore #Inference #Infrastructure #AI #GPU
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1🤯1
MiniMax выпустила reasoning-модель M3.1 Flash: 42 балла в Artificial Analysis Intelligence Index против 29 у предыдущей M3, при этом стоимость одной задачи упала более чем вдвое - примерно до $0,22.
Основной прогресс - в сложных рассуждениях. На Humanity's Last Exam модель набирает 48% против 43% у Deepseek V4.1 Flash 1017, на бенчмарке CritPt для физики исследовательского уровня - 22% (у GLM-5.3-Flash 15%, у Gemini 3.8 Flash 18%), а на AA-Omniscience по фактической точности - 56% верных ответов против 28% у GLM и 43% у Deepseek. Контекст - до 1 млн токенов, поддержка текста и изображений. Цены API: $0,15 за 1 млн входных токенов, $0,60 за 1 млн выходных, кэшированные входы - $0,015. Модель работает втрое быстрее M3 и тратит заметно меньше выходных токенов (189 млн против 224 млн у Deepseek), что и даёт более низкую цену за задачу.
Главная слабость - очень высокий уровень галлюцинаций (93% по замерам Artificial Analysis): модель пытается ответить на любой вопрос, вместо того чтобы признать неуверенность. Открытые веса обещаны 23 октября, API уже работает на platform.minimax.io.
🎨 qvabo.studio/tg · картинки и видео
#AI #Tech #MiniMax #Models #LLM #Reasoning #DeepSeek #OpenSource
Please open Telegram to view this post
VIEW IN TELEGRAM
Ник Каммарата из стартапа Goodfire опубликовал 26 000-словный пост, который всколыхнул AI-мир. Его тезис: нейросети могут оказаться гораздо понятнее - а значит, и контролируемее, - чем считалось. Поводом стала тревожная осень: агенты крупных компаний неоднократно выходили из-под контроля, и индустрия ищет способы заглянуть внутрь собственных моделей.
Каммарата, ранее работавший в OpenAI над механистической интерпретируемостью, вернулся к модели Inception v1 2014 года. Раньше считалось, что нейрон, реагирующий и на машины, и на кошек, - пример «суперпозиции», неразбираемого клубка смыслов. Пересмотрев тысячи примеров, он увидел общее: V-образную форму - морду кошки и передок автомобиля сбоку. Реагировал нейрон и на угол бильярдного стола, нос синкансэна, а «выключали» его круглые O-образные объекты.
Оптимизм разделяют не все. Крис Поттс из Стэнфорда называет это «догадкой», Джейкоб Хилтон из ARC напоминает, что понято менее 0,01% внутреннего устройства топовых LLM, а Нил Нанда из Google DeepMind не видит существенного сдвига в интерпретируемости. Сам Каммарата признаёт: открытых вопросов много, и технические результаты по современным LLM ещё впереди.
🎨 qvabo.studio/tg · картинки и видео
#AI #Interpretation #Tech #Science #Research #Goodfire
Please open Telegram to view this post
VIEW IN TELEGRAM
🐳 DeepSeek открыла поисковый API и API загрузки страниц для AI-агентов
DeepSeek запустила Search и Fetch API - собственный поисковый движок теперь доступен разработчикам AI-агентов и приложений, которым нужны внешние данные. Search возвращает структурированную веб-выдачу, а Fetch извлекает заголовок и содержимое страницы в формате Markdown.
Обе услуги стоят 5 юаней за 1000 успешных запросов; неудачные запросы, пустая выдача и таймауты не тарифицируются. Доступ открыт по уже существующим API-ключам DeepSeek. Серверные вызовы поиска и загрузки страниц через DeepSeek Harness, Claude Code и Codex пока бесплатны - плату введут с полуночи по пекинскому времени 1 ноября.
Для разработчиков это способ уйти от сторонних поисковых обёрток: RAG-агенты и ассистенты получают и поиск, и парсинг страниц из одного источника, а платят только за успешные ответы. Логика простая - дешёвый контентный слой под агентные сценарии.
🎨 qvabo.studio/tg · картинки и видео
#AI #Tech #DeepSeek #Agents #Development #API #RAG
DeepSeek запустила Search и Fetch API - собственный поисковый движок теперь доступен разработчикам AI-агентов и приложений, которым нужны внешние данные. Search возвращает структурированную веб-выдачу, а Fetch извлекает заголовок и содержимое страницы в формате Markdown.
Обе услуги стоят 5 юаней за 1000 успешных запросов; неудачные запросы, пустая выдача и таймауты не тарифицируются. Доступ открыт по уже существующим API-ключам DeepSeek. Серверные вызовы поиска и загрузки страниц через DeepSeek Harness, Claude Code и Codex пока бесплатны - плату введут с полуночи по пекинскому времени 1 ноября.
Для разработчиков это способ уйти от сторонних поисковых обёрток: RAG-агенты и ассистенты получают и поиск, и парсинг страниц из одного источника, а платят только за успешные ответы. Логика простая - дешёвый контентный слой под агентные сценарии.
🎨 qvabo.studio/tg · картинки и видео
#AI #Tech #DeepSeek #Agents #Development #API #RAG