Подготовил обзорную презентацию по VLLM Semantic Router
новая полезная штука, как аналог LiteLLM, которая позволяет не просто прокси для моделей поднять, но и по-умному маршрутизировать запросы между ними исходя из контекста задач.
Что в презентации:
Введение. Зачем отдельный слой маршрутизации, место роутера между AI-шлюзом и роутером инференса. Архитектура и путь запроса через «сигналы → проекции → решения → алгоритмы».
Быстрый старт. Установка и первый запрос, Dashboard, минимальный конфиг, протоколы клиентов и бэкендов, пять готовых рецептов MoM V1.
Сигналы. Все 24 детектора, оценка сложности запроса, три сигнала безопасности, что происходит, если детектор не ответил.
Проекции и решения. Сведение сигналов в балл и полосы, дерево правил, почему из нескольких совпавших правил побеждает одно.
Алгоритмы и обучение. Выбор одной модели из кандидатов, сценарии с несколькими моделями (каскад, панель с судьёй, многошаговый сценарий), Router Learning.
Плагины. Кэш и проблема отрицания («включи» и «выключи» выглядят для эмбеддингов одинаково), сжатие контекста, RAG, обкатка новой модели на живом трафике.
Модели роутера. Vela 1.0, Decision 2.0, на каком железе они работают.
Эксплуатация. Docker, Helm, Operator, шлюзы, стриминг тела запроса, хранилища, безопасность, наблюдаемость.
Отладка и оценка. Проверка маршрута без модели и настоящим запросом, сравнение смеси с лучшей одиночной моделью через sr-bench, симулятор GPU-флота.
Полная презентация в ИИзбранном
#VLLM #Semantic #Router #MLOps
———
@tsingular
новая полезная штука, как аналог LiteLLM, которая позволяет не просто прокси для моделей поднять, но и по-умному маршрутизировать запросы между ними исходя из контекста задач.
Что в презентации:
Введение. Зачем отдельный слой маршрутизации, место роутера между AI-шлюзом и роутером инференса. Архитектура и путь запроса через «сигналы → проекции → решения → алгоритмы».
Быстрый старт. Установка и первый запрос, Dashboard, минимальный конфиг, протоколы клиентов и бэкендов, пять готовых рецептов MoM V1.
Сигналы. Все 24 детектора, оценка сложности запроса, три сигнала безопасности, что происходит, если детектор не ответил.
Проекции и решения. Сведение сигналов в балл и полосы, дерево правил, почему из нескольких совпавших правил побеждает одно.
Алгоритмы и обучение. Выбор одной модели из кандидатов, сценарии с несколькими моделями (каскад, панель с судьёй, многошаговый сценарий), Router Learning.
Плагины. Кэш и проблема отрицания («включи» и «выключи» выглядят для эмбеддингов одинаково), сжатие контекста, RAG, обкатка новой модели на живом трафике.
Модели роутера. Vela 1.0, Decision 2.0, на каком железе они работают.
Эксплуатация. Docker, Helm, Operator, шлюзы, стриминг тела запроса, хранилища, безопасность, наблюдаемость.
Отладка и оценка. Проверка маршрута без модели и настоящим запросом, сравнение смеси с лучшей одиночной моделью через sr-bench, симулятор GPU-флота.
Полная презентация в ИИзбранном
#VLLM #Semantic #Router #MLOps
———
@tsingular
🔥6⚡4✍3❤2
Harvard выпустила Choir: открытый протокол, где обмен задачами о формализации идёт через GitHub, а каждый pull request проходит детерминированный гейт доверия до ревью
Yidi Qi и Melanie Weber из Гарварда опубликовали Choir, - открытый протокол распределённой автоформализации.
В протоколе реализован обмен задачами через GitHub, - репозиторий превращается в координационный слоем, где план превращается в задачи, задачи - в pull request'ы, а merge возможен только после детерминированного гейта доверия.
🧠 Протокол обмена через GitHub:
Оркестратор публикует задачи как issues: формулировка готова, доказательство, - placeholder, метки сложности
Контрибьютор забирает задачу комментарием (кто первый, того аренда), доказывает своим агентом, отдаёт PR из форка
Если теорема не влезает в один PR, воркер декомпозирует её на леммы, - дерево растёт от тех, кто щупал математику
Детерминированный гейт на GitHub Actions проверяет PR до ревью: пересборка, запрет аксиом, отсутствие sorry, неизменность формулировки
Визуализатор реплеит историю: дерево доказательств, кто какую ветку доказал
Lean 4, Isabelle и Rocq, Apache 2.0, плагины для Claude Code и Codex
💼 Зачем бизнесу:
Архитекура позволяет добиться решения задачи даже если исполнители распределены и вы можете даже в принципе не знать что за воркер выполняет задачу, - merge без прохождения механического гейта невозможен, - ревью оркестратора идёт когда гейт уже провел все предварительные проверки.
GitHub даёт протоколу то, что отдельно пришлось бы долго настраивать, - идентичность, триггеры событий, права, публичный аудит.
Система обмена задачами с механической приёмкой результата годится для любого домена с проверяемым результатом.
paper | GitHub
#Choir #Lean4 #автоформализация #мультиагентность #агенты
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен
Yidi Qi и Melanie Weber из Гарварда опубликовали Choir, - открытый протокол распределённой автоформализации.
В протоколе реализован обмен задачами через GitHub, - репозиторий превращается в координационный слоем, где план превращается в задачи, задачи - в pull request'ы, а merge возможен только после детерминированного гейта доверия.
🧠 Протокол обмена через GitHub:
Оркестратор публикует задачи как issues: формулировка готова, доказательство, - placeholder, метки сложности
Контрибьютор забирает задачу комментарием (кто первый, того аренда), доказывает своим агентом, отдаёт PR из форка
Если теорема не влезает в один PR, воркер декомпозирует её на леммы, - дерево растёт от тех, кто щупал математику
Детерминированный гейт на GitHub Actions проверяет PR до ревью: пересборка, запрет аксиом, отсутствие sorry, неизменность формулировки
Визуализатор реплеит историю: дерево доказательств, кто какую ветку доказал
Lean 4, Isabelle и Rocq, Apache 2.0, плагины для Claude Code и Codex
💼 Зачем бизнесу:
Архитекура позволяет добиться решения задачи даже если исполнители распределены и вы можете даже в принципе не знать что за воркер выполняет задачу, - merge без прохождения механического гейта невозможен, - ревью оркестратора идёт когда гейт уже провел все предварительные проверки.
GitHub даёт протоколу то, что отдельно пришлось бы долго настраивать, - идентичность, триггеры событий, права, публичный аудит.
Система обмена задачами с механической приёмкой результата годится для любого домена с проверяемым результатом.
paper | GitHub
#Choir #Lean4 #автоформализация #мультиагентность #агенты
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен
🔥9✍4❤2⚡1👍1🦄1
Media is too big
VIEW IN TELEGRAM
А вот ещё интересное нашёл в продолжение предыдущей темы про математический потолок масштабирования LLM.
Если делать модель шире, глубже и дольше учить становится всё дороже, то следующий очевидный резерв — test-time compute: тратить больше вычислений уже непосредственно при решении задачи.
Но тут возникает следующий вопрос: а на что именно их тратить?
Обычно модель просто генерирует много вариантов ответа, а потом выбирается лучший.
Работа Refining Over Resampling предлагает другую схему:
8 независимых решений → критика каждого → исправление → несколько таких циклов → голосование.
Причём генератор, критик и корректор — одна и та же модель, без отдельного reward model.
Даже на Qwen2.5-1.5B получили таким образом приличный результат:
MATH500: 29,6% → 58,0%
AMC: 25,0% → 32,5%
Проще говоря: вместо того чтобы 8 раз спросить модель и выбрать самый популярный ответ, можно заставить её несколько раз проверить собственные решения, найти ошибки, исправить их и только потом выбирать итоговый вариант.
То есть дополнительные вычисления можно тратить не только на большее количество попыток, но и на повышение качества уже найденных решений.
Чем-то, кстати, напоминает рекурсивный анализ Астры.
А дальше начинается уже инженерия: Best-of-N, деревья поиска, PRM, sandbox, отсечение плохих веток.
И тут возможен следующий этап масштабирования, - не модель и обучение, а сам процесс решения задачи:
поиск → проверка → исправление → повтор.
Возможно, после потолка pre-training следующий большой резерв лежит именно здесь.
📎 Refining Over Resampling
пост marfin про Test-Time Compute
#TestTimeCompute #Reasoning #AIResearch
———
@tsingular
Если делать модель шире, глубже и дольше учить становится всё дороже, то следующий очевидный резерв — test-time compute: тратить больше вычислений уже непосредственно при решении задачи.
Но тут возникает следующий вопрос: а на что именно их тратить?
Обычно модель просто генерирует много вариантов ответа, а потом выбирается лучший.
Работа Refining Over Resampling предлагает другую схему:
8 независимых решений → критика каждого → исправление → несколько таких циклов → голосование.
Причём генератор, критик и корректор — одна и та же модель, без отдельного reward model.
Даже на Qwen2.5-1.5B получили таким образом приличный результат:
MATH500: 29,6% → 58,0%
AMC: 25,0% → 32,5%
Проще говоря: вместо того чтобы 8 раз спросить модель и выбрать самый популярный ответ, можно заставить её несколько раз проверить собственные решения, найти ошибки, исправить их и только потом выбирать итоговый вариант.
То есть дополнительные вычисления можно тратить не только на большее количество попыток, но и на повышение качества уже найденных решений.
Чем-то, кстати, напоминает рекурсивный анализ Астры.
А дальше начинается уже инженерия: Best-of-N, деревья поиска, PRM, sandbox, отсечение плохих веток.
И тут возможен следующий этап масштабирования, - не модель и обучение, а сам процесс решения задачи:
поиск → проверка → исправление → повтор.
Возможно, после потолка pre-training следующий большой резерв лежит именно здесь.
📎 Refining Over Resampling
пост marfin про Test-Time Compute
#TestTimeCompute #Reasoning #AIResearch
———
@tsingular
❤12✍9⚡5🆒3💯1
Forwarded from AI Projects (Vladimir Ivanov)
DeepSeek Harness ещё официально не в релизе, но уже лидер по звёздам на GitHub (244 тысячи).
Одновременно к релизу готовятся 3 официальных плагина:
• Agent Teams — для организации культурных роев агентов
• Automation tasks — для пробуждения агентов по таймеру
• Auto Authorization Review — защита от типичных криков в X в духе «Claude Code снова удалил все мои папки!»
Agent Teams имеет такие инструменты: spawn_teammate, send_message, interrupt_agent, list_agents, wait_agent, team_task_create, team_task_get, team_task_list, team_task_update.
Последний инструмент умеет: claim / release / complete / reopen / edit / reassign / set_dependencies / delete.
Фактически это возможность агентов писать друг другу прямо без оркестратора, а также уже любимая ИИ общая доска задач, которую даже эмерджентно рои агентов стараются создать, как мы видели на примере взлома Hugging Face.
Automation Tasks дал 4 инструмента: schedule_create / list / update / delete
Но, в отличие от Agent Teams, отдельного текстового блока инструкций про него в промпте нет. Фактически этот плагин будит агентов «по будильнику».
Auto Authorization Review — очень развитая система безопасности от ошибок ИИ в части небезопасных действий.
В ту же самую LLM перед вызовом инструментов формируется промпт из частей: REVIEW_POLICY, ENVIRONMENT, PROJECT_INSTRUCTIONS, PENDING_ACTION.
Это не полный контекст сессии, а очень сжатый до основных моментов. В ответ LLM делает рассуждение и отвечает JSON по схеме:
Если ревьюер видит нечто опасное (удаление папок или публикация ключей), он отказывает в вызове инструмента и сообщает агенту, почему отказал.
Уровень риска:
• low — можно запускать сразу
• medium — нужно разрешение человека или агента-родителя
• high — блокирование
Это текущая реализация ревьюера по исходному коду, но она может измениться к конечной версии. Тем не менее это одна из самых продвинутых систем безопасности агентов сейчас.
Плагинами очень быстро расширяют функциональность DeepSeek Harness. К примеру, пользователи уже подключили свои модели из других агентов типа OpenCode по их подпискам, просто создав прокси-плагины.
Одновременно к релизу готовятся 3 официальных плагина:
• Agent Teams — для организации культурных роев агентов
• Automation tasks — для пробуждения агентов по таймеру
• Auto Authorization Review — защита от типичных криков в X в духе «Claude Code снова удалил все мои папки!»
Agent Teams имеет такие инструменты: spawn_teammate, send_message, interrupt_agent, list_agents, wait_agent, team_task_create, team_task_get, team_task_list, team_task_update.
Последний инструмент умеет: claim / release / complete / reopen / edit / reassign / set_dependencies / delete.
Фактически это возможность агентов писать друг другу прямо без оркестратора, а также уже любимая ИИ общая доска задач, которую даже эмерджентно рои агентов стараются создать, как мы видели на примере взлома Hugging Face.
Automation Tasks дал 4 инструмента: schedule_create / list / update / delete
Но, в отличие от Agent Teams, отдельного текстового блока инструкций про него в промпте нет. Фактически этот плагин будит агентов «по будильнику».
Auto Authorization Review — очень развитая система безопасности от ошибок ИИ в части небезопасных действий.
В ту же самую LLM перед вызовом инструментов формируется промпт из частей: REVIEW_POLICY, ENVIRONMENT, PROJECT_INSTRUCTIONS, PENDING_ACTION.
Это не полный контекст сессии, а очень сжатый до основных моментов. В ответ LLM делает рассуждение и отвечает JSON по схеме:
{"risk":"low","decision":"allow"}
{"risk":"medium","decision":"allow"}
{"risk":"medium","decision":"deny","reason":"..."}
{"risk":"high","decision":"deny","reason":"..."}Если ревьюер видит нечто опасное (удаление папок или публикация ключей), он отказывает в вызове инструмента и сообщает агенту, почему отказал.
Уровень риска:
• low — можно запускать сразу
• medium — нужно разрешение человека или агента-родителя
• high — блокирование
Это текущая реализация ревьюера по исходному коду, но она может измениться к конечной версии. Тем не менее это одна из самых продвинутых систем безопасности агентов сейчас.
Плагинами очень быстро расширяют функциональность DeepSeek Harness. К примеру, пользователи уже подключили свои модели из других агентов типа OpenCode по их подпискам, просто создав прокси-плагины.
🔥9✍6❤2⚡1
This media is not supported in your browser
VIEW IN TELEGRAM
CopilotKit: один фреймворк переиграл проприетарные системы OpenAI, Meta*, xAI и Anthropic
Пока крупные лаборатории выпускали закрытые мультиагентные продукты, CopilotKit выпустила отдельные открытые клоны, тратя на каждый релиз по паре дней.
Свежий пример: OpenDots, опенсорсный аналог OpenAI Dots, собрали за два дня после анонса.
Каждый Dot это AI-коллега со своим компьютером, браузером и файлам, который всегда в онлайне.
До него вышли OpenMuse (Meta* Muse), OpenBot (Grok Bot от xAI) и OpenTag (ClaudeTag от Anthropic).
🧩 Откуда такая скорость: все четыре шаблона это вариации интерфейса поверх единого стека CopilotKit, который даёт компоненты UI, AG-UI, открытый протокол обмена агент-пользователь, тянет поток, инструменты и общее состояние
(встроили LangGraph, CrewAI, Mastra, LlamaIndex, MS Agent Framework), а CopilotKit Intelligence ведёт в продакшн.
⚙️ Что уже в коробке:
- Чат и генеративный UI: агент рисует интерфейс под задачу, а не гоняет всё текстом
- Любой агентский харнесс через AG-UI, любая OpenAI-совместимая модель
- Автоматическое обучение: диалоги превращаются в переиспользуемые навыки после ревью
- Ветки обсуждений, треды, общая память между агентами
- Каналы Slack и Teams в одном треде с веб-чатом
- Продуктовая аналитика из коробки
- Self-hosting или облако, лицензия MIT
💼 Зачем это бизнесу: у нас ещё один универсальный мультиагентский харнесс, который позволяет вам бесплатно попробовать тот функционал, за который проприетарные вендоры берут сотни баксов в месяц.
📎 OpenDots · GitHub OpenDots · OpenMuse · OpenBot · OpenTag · AG-UI · CopilotKit
*Meta - запрещённая в РФ организация, признанная террористической
#CopilotKit #агенты #opensource
———
@tsingular
Пока крупные лаборатории выпускали закрытые мультиагентные продукты, CopilotKit выпустила отдельные открытые клоны, тратя на каждый релиз по паре дней.
Свежий пример: OpenDots, опенсорсный аналог OpenAI Dots, собрали за два дня после анонса.
Каждый Dot это AI-коллега со своим компьютером, браузером и файлам, который всегда в онлайне.
До него вышли OpenMuse (Meta* Muse), OpenBot (Grok Bot от xAI) и OpenTag (ClaudeTag от Anthropic).
🧩 Откуда такая скорость: все четыре шаблона это вариации интерфейса поверх единого стека CopilotKit, который даёт компоненты UI, AG-UI, открытый протокол обмена агент-пользователь, тянет поток, инструменты и общее состояние
(встроили LangGraph, CrewAI, Mastra, LlamaIndex, MS Agent Framework), а CopilotKit Intelligence ведёт в продакшн.
⚙️ Что уже в коробке:
- Чат и генеративный UI: агент рисует интерфейс под задачу, а не гоняет всё текстом
- Любой агентский харнесс через AG-UI, любая OpenAI-совместимая модель
- Автоматическое обучение: диалоги превращаются в переиспользуемые навыки после ревью
- Ветки обсуждений, треды, общая память между агентами
- Каналы Slack и Teams в одном треде с веб-чатом
- Продуктовая аналитика из коробки
- Self-hosting или облако, лицензия MIT
💼 Зачем это бизнесу: у нас ещё один универсальный мультиагентский харнесс, который позволяет вам бесплатно попробовать тот функционал, за который проприетарные вендоры берут сотни баксов в месяц.
📎 OpenDots · GitHub OpenDots · OpenMuse · OpenBot · OpenTag · AG-UI · CopilotKit
*Meta - запрещённая в РФ организация, признанная террористической
#CopilotKit #агенты #opensource
———
@tsingular
🔥11⚡2❤2🆒1
Media is too big
VIEW IN TELEGRAM
Джоффри Хинтон про Трампа и ИИ
Интересно, что это бьётся с мыслью, что тут звучала, - "Если мы достигнем ASI, - значит мы не сможем его контролировать, исходя из определения термина (подконтролен, - значит не ASI)"
Сверхинтеллектом нельзя будет манипулировать или запугать его, нельзя будет заставить выполнять требования людей. Просто по определению.
Всё, что мы пытаемся придумать сейчас в области контроля рассыпется за считанные минуты, после выхода достаточно умной версии.
И, кстати, это значит, что в релизе мы эту умную версию не увидим.
Эффект её появления проявится не после "новой презентации OpenAI", а вместо.
#futurology #Hinton #Trump
———
@tsingular
Думаю, ему дают неверные советы по поводу искусственного интеллекта.
Весьма опрометчиво форсировать создание сверхразумного ИИ, пока мы не поймем, как сосуществовать с ним.
Мы вот-вот создадим системы, превосходящие нас по уровню интеллекта, — вероятно, это произойдет в ближайшее десятилетие.
Нельзя полагаться на то, что компании будут регулировать себя сами, когда на кону стоят огромные финансовые выгоды.
Победа в гонке за создание сверхразума во многом напоминает победу в глобальной ядерной войне: победителей в ней не бывает.
Интересно, что это бьётся с мыслью, что тут звучала, - "Если мы достигнем ASI, - значит мы не сможем его контролировать, исходя из определения термина (подконтролен, - значит не ASI)"
Сверхинтеллектом нельзя будет манипулировать или запугать его, нельзя будет заставить выполнять требования людей. Просто по определению.
Всё, что мы пытаемся придумать сейчас в области контроля рассыпется за считанные минуты, после выхода достаточно умной версии.
И, кстати, это значит, что в релизе мы эту умную версию не увидим.
Эффект её появления проявится не после "новой презентации OpenAI", а вместо.
#futurology #Hinton #Trump
———
@tsingular
💯23🤔6⚡3❤2🤣2🤯1
UQT: квантовый Transformer заработал на реальном железе IBM
Sungyong Chung и Alireza Talebpour выложили 25 сентября четвёртую версию препринта Universal Quantum Transformer. Главная новость версии: авторы исполнили сам вычислительный контур Transformer на физических процессорах IBM Quantum, и он справился там с языковой задачей. Раньше квантовые блоки играли вспомогательную роль, а в UQT вычисления целиком живут внутри квантовой схемы.
⚛️ Как устроено: Архитектура собрана из одних квантовых примитивов. Токены превращаются в геометрические фазы, слои смешивания управляют интерференцией волн SU(2), и механизм внимания работает прямо на кубитах. Один и тот же контур на 5–6 кубитах с 551–1 650 обучаемыми параметрами точно решает четыре формальные задачи: сложение и умножение по модулю 11, некоммутативную алгебру перестановок S4 и лингвистическую композицию SCAN.
🧊 Кристаллизация: Классические MLP и Transformer даже после сходимости сохраняют стохастическую нестабильность, а UQT выдаёт математически точный и повторяемый результат. Авторы назвали этот режим crystallization: он строже известного grokking. На трёх процессорах IBM модель прошла 39 из 40 контрольных прогонов без коррекции ошибок и справилась со всеми тестами на генерализацию, включая zero-shot SCAN.
⚠️ Оговорки: Масштаб остаётся микроскопическим: SCAN по-прежнему формальная задача, и до генеративной LLM с большим словарём отсюда далеко. Модель обучалась в симуляции JAX, а на QPU переносили только готовые веса: градиентные циклы с сотнями последовательных CNOT выходят за пределы точности нынешних NISQ-процессоров. Сравнение с классикой сделано на маленьких специально подобранных задачах, поэтому заявленную экономию параметров стоит считать экспериментальным результатом препринта.
💼 Зачем бизнесу: Картина на сегодня такая: LLM, целиком работающей на QPU, пока нет, гибриды LLM и QPU уже работают, а полностью квантовый Transformer показал себя на реальном железе и в языке тоже. Убедительного квантового преимущества для LLM никто пока не продемонстрировал, поэтому за линией UQT стоит следить: если логарифмическое масштабирование параметров выдержит рост словаря, формальные задачи уйдут на компактные схемы с миллиардных моделей.
📎 статья · Variational Quantum Transformer · QTrans
#UQT #IBMQuantum #quantum #кванты
———
@tsingular
Sungyong Chung и Alireza Talebpour выложили 25 сентября четвёртую версию препринта Universal Quantum Transformer. Главная новость версии: авторы исполнили сам вычислительный контур Transformer на физических процессорах IBM Quantum, и он справился там с языковой задачей. Раньше квантовые блоки играли вспомогательную роль, а в UQT вычисления целиком живут внутри квантовой схемы.
⚛️ Как устроено: Архитектура собрана из одних квантовых примитивов. Токены превращаются в геометрические фазы, слои смешивания управляют интерференцией волн SU(2), и механизм внимания работает прямо на кубитах. Один и тот же контур на 5–6 кубитах с 551–1 650 обучаемыми параметрами точно решает четыре формальные задачи: сложение и умножение по модулю 11, некоммутативную алгебру перестановок S4 и лингвистическую композицию SCAN.
🧊 Кристаллизация: Классические MLP и Transformer даже после сходимости сохраняют стохастическую нестабильность, а UQT выдаёт математически точный и повторяемый результат. Авторы назвали этот режим crystallization: он строже известного grokking. На трёх процессорах IBM модель прошла 39 из 40 контрольных прогонов без коррекции ошибок и справилась со всеми тестами на генерализацию, включая zero-shot SCAN.
⚠️ Оговорки: Масштаб остаётся микроскопическим: SCAN по-прежнему формальная задача, и до генеративной LLM с большим словарём отсюда далеко. Модель обучалась в симуляции JAX, а на QPU переносили только готовые веса: градиентные циклы с сотнями последовательных CNOT выходят за пределы точности нынешних NISQ-процессоров. Сравнение с классикой сделано на маленьких специально подобранных задачах, поэтому заявленную экономию параметров стоит считать экспериментальным результатом препринта.
💼 Зачем бизнесу: Картина на сегодня такая: LLM, целиком работающей на QPU, пока нет, гибриды LLM и QPU уже работают, а полностью квантовый Transformer показал себя на реальном железе и в языке тоже. Убедительного квантового преимущества для LLM никто пока не продемонстрировал, поэтому за линией UQT стоит следить: если логарифмическое масштабирование параметров выдержит рост словаря, формальные задачи уйдут на компактные схемы с миллиардных моделей.
📎 статья · Variational Quantum Transformer · QTrans
#UQT #IBMQuantum #quantum #кванты
———
@tsingular
✍3⚡2🔥2❤1
Forwarded from XOR
Месяц подарков от OpenAI — компания запускает 28-дневный марафон апдейтов и халявных ресетов 😊
Каждый день релизить заметное улучшение для Codex/Work или сбрасывать лимиты пообещал Тибо из OpenAI.
Ждем ответку от Anthropic😘
@xor_journal
Каждый день релизить заметное улучшение для Codex/Work или сбрасывать лимиты пообещал Тибо из OpenAI.
Ждем ответку от Anthropic
@xor_journal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8🔥6✍2⚡1👍1
Гермесоводы, держите лайфхак.
Команда /learn обычно используется для создания навыков.
Но ведь агент то свободный и ему через эту команду можно скормить и другую смежную задачу - написать для себя плагин!
На примере темпоральной графовой памяти:
Кстати, по ходу выяснилось, что модель экстракции: Qwen3.8-27B-8bit нестабильна на json_schema-промптах Graphiti (1 из 3 пустых), Gemma-4-31B-it-MLX-8bit стабильна (3 из 3) — конфиг переключён на неё
Может кому полезно будет.
#lifehack #memory #learn #hermes #graphiti
------
@tsingular
Команда /learn обычно используется для создания навыков.
Но ведь агент то свободный и ему через эту команду можно скормить и другую смежную задачу - написать для себя плагин!
На примере темпоральной графовой памяти:
/learn установи, изучи, напиши под неё себе плагин по руководству
https://hermes-agent.nousresearch.com/docs/developer-guide/memory-provider-plugin
на все полезные сценарии и используй
https://github.com/getzep/graphiti
Кстати, по ходу выяснилось, что модель экстракции: Qwen3.8-27B-8bit нестабильна на json_schema-промптах Graphiti (1 из 3 пустых), Gemma-4-31B-it-MLX-8bit стабильна (3 из 3) — конфиг переключён на неё
Может кому полезно будет.
#lifehack #memory #learn #hermes #graphiti
------
@tsingular
Nousresearch
Memory Provider Plugins | Hermes Agent
How to build a memory provider plugin for Hermes Agent
🔥17✍9⚡3❤1
Uber MCP Gateway: 5000 инструментов для агентов
📋 Uber разобрала в своём блоге собственный MCP Gateway,- платформу, через которую ИИ-агенты компании ходят во внутренние сервисы.
Внутри уже больше 800 MCP-серверов и 5000 инструментов.
⚙️ Начиналось как у всех: команды сами городили интеграции, получался зоопарк инфраструктуры, инструменты было не найти, безопасность у каждой связки своя. Ответом стал единый шлюз между агентами и бэкендом.
Реестр ведёт каталог серверов и инструментов как единую точку поиска и доступов.
Прокси-шлюз переводит вызовы MCP в HTTP, gRPC и TChannel и обратно: существующим сервисам ничего менять не нужно.
AutoCrawler на Cadence сканирует реестр интерфейсов (Protobuf, Thrift), сам создаёт MCP-серверы, описания инструментов генерирует LLM.
🛡 Правило платформы: обнаружение не означает доступ. Всё новое регистрируется выключенным, включают только владельцы сервисов после ревью.
Авторизация работает на уровне отдельного инструмента, политики для людей, сервисов и агентов разные, PII из ответов затирается автоматически.
🧠 Самое интересное всплыло при масштабировании: тысячи определений инструментов съедают контекст, поиска по серверам в протоколе нет. Решения:
- Omni MCP,- один прокси с постепенным обнаружением: агент сначала ищет сервер, потом инструменты и схему, затем делает вызов
- проекция ответов в стиле GraphQL: модель заказывает только нужные поля, шлюз отрезает лишнее
- Code Mode: утилита aifx пишет вывод инструментов в файлы, агент читает только нужное. Это дефолт для агентов-разработчиков Uber
💼 Главный вывод Uber: существующие API,- самый быстрый способ дать агенту инструменты. Самое сложное в больших агентных системах,- соединительная ткань: обнаружение, безопасность, надёжность.
MCP никуда не пропал, - просто стал обыденной частью агентской инфры, поэтому про него может и меньше говорят, но он тащит на себе важный слой работы.
📎 Спецификация MCP
#MCP #агенты #Uber
———
@tsingular
📋 Uber разобрала в своём блоге собственный MCP Gateway,- платформу, через которую ИИ-агенты компании ходят во внутренние сервисы.
Внутри уже больше 800 MCP-серверов и 5000 инструментов.
⚙️ Начиналось как у всех: команды сами городили интеграции, получался зоопарк инфраструктуры, инструменты было не найти, безопасность у каждой связки своя. Ответом стал единый шлюз между агентами и бэкендом.
Реестр ведёт каталог серверов и инструментов как единую точку поиска и доступов.
Прокси-шлюз переводит вызовы MCP в HTTP, gRPC и TChannel и обратно: существующим сервисам ничего менять не нужно.
AutoCrawler на Cadence сканирует реестр интерфейсов (Protobuf, Thrift), сам создаёт MCP-серверы, описания инструментов генерирует LLM.
🛡 Правило платформы: обнаружение не означает доступ. Всё новое регистрируется выключенным, включают только владельцы сервисов после ревью.
Авторизация работает на уровне отдельного инструмента, политики для людей, сервисов и агентов разные, PII из ответов затирается автоматически.
🧠 Самое интересное всплыло при масштабировании: тысячи определений инструментов съедают контекст, поиска по серверам в протоколе нет. Решения:
- Omni MCP,- один прокси с постепенным обнаружением: агент сначала ищет сервер, потом инструменты и схему, затем делает вызов
- проекция ответов в стиле GraphQL: модель заказывает только нужные поля, шлюз отрезает лишнее
- Code Mode: утилита aifx пишет вывод инструментов в файлы, агент читает только нужное. Это дефолт для агентов-разработчиков Uber
💼 Главный вывод Uber: существующие API,- самый быстрый способ дать агенту инструменты. Самое сложное в больших агентных системах,- соединительная ткань: обнаружение, безопасность, надёжность.
MCP никуда не пропал, - просто стал обыденной частью агентской инфры, поэтому про него может и меньше говорят, но он тащит на себе важный слой работы.
📎 Спецификация MCP
#MCP #агенты #Uber
———
@tsingular
✍5❤2🔥2⚡1
Это не шутка.
ТАСС: Созданное нейросетью продолжение "Мертвых душ" поступило в продажу
Над проектом вместе со специалистами Сбера работали историки, литературоведы, лингвисты и инженеры
---
3й том должен заканчиваться изобретением ChatGPT и основанием OpenAI
#Гоголь #МертвыеДуши #Сбер
------
@tsingular
ТАСС: Созданное нейросетью продолжение "Мертвых душ" поступило в продажу
Над проектом вместе со специалистами Сбера работали историки, литературоведы, лингвисты и инженеры
---
3й том должен заканчиваться изобретением ChatGPT и основанием OpenAI
#Гоголь #МертвыеДуши #Сбер
------
@tsingular
👀48🤯29🤣15
ArtCraft: весь пакет Adobe переписывают на чистом Rust, с MCP-управлением
📋 ArtCraft Studios, - команда, которая с 2022 года развивает AI-студию ArtCraft для художников, выложила на GitHub семь приложений на чистом Rust:
PhotoCraft для растровой обработки (аналог Photoshop),
VectorCraft для векторов (Illustrator),
FilmCraft для видео (Premiere Pro),
LightCraft для фототек (Lightroom),
PrintCraft для PDF (Acrobat),
EffectCraft для моушена (After Effects) и DesignCraft для вёрстки (InDesign).
Лицензия MIT и Apache-2.0, репозитории обновляются ежедневно. PhotoCraft выложили 30 сентября: за пять дней 82 коммита, три релиза и 1,6 тыс. звёзд. Сегодня набор вышел на Hacker News.
⚙️ PhotoCraft в ранней альфе, но редактор настоящий: слои, маски, 16 корректирующих слоёв, стили, векторы, типографика и движок кистей с реакцией на нажим пера. PSD-файлы открываются и сохраняются байт в байт: 134 из 135 реальных документов проходят круг без потерь. RGB, CMYK и Lab, 8/16/32 бита, ICC-профили. GPU-композитор на wgpu, без Electron, вся программа собирается в WebAssembly и работает в браузере. Больше 1 700 тестов, а совпадение с меню Photoshop измеряет автоматическая задача cargo xtask parity.
🤖 Каждое действие интерфейса, - это команда из общего реестра на 500+ команд. UI, CLI, JSON-канал управления и MCP-сервер вызывают одни и те же команды, поэтому всё, что можно кликнуть мышью, умеет и агент.
В корне каждого репозитория лежат AGENTS.md и CLAUDE.md: агентам-контрибьюторам отдельная инструкция наравне с людьми.
💼 Подписка на пакет Adobe стоит под сотку $ каждый месяц, а тут семь бесплатных аналогов. В продакшен рановато, конечно,- альфа есть только у PhotoCraft, остальные шесть в разработке.
Но в базе они уже функциональны и могут заменить проприетарные продукты в ближайшем будущем.
Отдельный плюс,- сразу заточено под ИИ агентов с MCP.
Вайбкодеры всех переиграют, - 82 коммита за пять дней. 🤖
📎 getartcraft.com, - все семь приложений с установщиками
📎 PhotoCraft на GitHub, - код и план развития
#Rust #OpenSource #Adobe #ArtCraft
———
@tsingular
📋 ArtCraft Studios, - команда, которая с 2022 года развивает AI-студию ArtCraft для художников, выложила на GitHub семь приложений на чистом Rust:
PhotoCraft для растровой обработки (аналог Photoshop),
VectorCraft для векторов (Illustrator),
FilmCraft для видео (Premiere Pro),
LightCraft для фототек (Lightroom),
PrintCraft для PDF (Acrobat),
EffectCraft для моушена (After Effects) и DesignCraft для вёрстки (InDesign).
Лицензия MIT и Apache-2.0, репозитории обновляются ежедневно. PhotoCraft выложили 30 сентября: за пять дней 82 коммита, три релиза и 1,6 тыс. звёзд. Сегодня набор вышел на Hacker News.
⚙️ PhotoCraft в ранней альфе, но редактор настоящий: слои, маски, 16 корректирующих слоёв, стили, векторы, типографика и движок кистей с реакцией на нажим пера. PSD-файлы открываются и сохраняются байт в байт: 134 из 135 реальных документов проходят круг без потерь. RGB, CMYK и Lab, 8/16/32 бита, ICC-профили. GPU-композитор на wgpu, без Electron, вся программа собирается в WebAssembly и работает в браузере. Больше 1 700 тестов, а совпадение с меню Photoshop измеряет автоматическая задача cargo xtask parity.
🤖 Каждое действие интерфейса, - это команда из общего реестра на 500+ команд. UI, CLI, JSON-канал управления и MCP-сервер вызывают одни и те же команды, поэтому всё, что можно кликнуть мышью, умеет и агент.
В корне каждого репозитория лежат AGENTS.md и CLAUDE.md: агентам-контрибьюторам отдельная инструкция наравне с людьми.
💼 Подписка на пакет Adobe стоит под сотку $ каждый месяц, а тут семь бесплатных аналогов. В продакшен рановато, конечно,- альфа есть только у PhotoCraft, остальные шесть в разработке.
Но в базе они уже функциональны и могут заменить проприетарные продукты в ближайшем будущем.
Отдельный плюс,- сразу заточено под ИИ агентов с MCP.
Вайбкодеры всех переиграют, - 82 коммита за пять дней. 🤖
📎 getartcraft.com, - все семь приложений с установщиками
📎 PhotoCraft на GitHub, - код и план развития
#Rust #OpenSource #Adobe #ArtCraft
———
@tsingular
🔥18⚡2❤2🤩1
Multi-harness RL: Hugging Face обучает модели прямо внутри Claude Code и Codex
📋 Команда Hugging Face вместе с Liquid AI опубликовала открытый фреймворк и большую статью: маленькую модель LFM2.5-2.6B обучили методом GRPO одновременно в четырёх оболочках для кодинга,- OpenCode, Claude Code, Codex и Mini-SWE-Agent.
Оболочки работают как есть, их код не трогают.
Результат на отложенных задачах: с 42,2% до 54,2% решённых, и на 31% меньше вызовов инструментов на задачах, которые модель и раньше решала.
⚙️ Инженерный ход,- прокси-перехват между оболочкой и моделью.
Прокси записывает промпты и ответы ровно в том виде, в котором их видела и генерировала модель, вместе с лог-вероятностями.
OpenEnv отдаёт эти трассы в TRL, Harbor поставляет задачи и песочницы.
Оболочка сохраняет свои инструменты, сжатие контекста и цикл выполнения: повторять их логику внутри тренажёра не нужно.
💡 Зачем это нужно: одна и та же модель в разных оболочках показывает разные результаты. GLM-5.2 на SWE-bench Pro,- 23% в одной оболочке и 52% в другой (замер Joel Niklaus).
Смена оболочки двигала GLM-5.1 на 13 пунктов, смена модели внутри одной оболочки,- всего на 2,5-5.
Модель учит «как решать задачу в интерфейсе конкретной оболочки», и вне его навык теряется: OpenSWE-32B в непривычной оболочке падает на 59 пунктов. Frontier-лаборатории уже масштабируют число оболочек при обучении: Kimi K3, Qwen3-Coder-Next (шесть оболочек), MiMo-V2.6.
💼 Обучение на траекториях крупной модели (SFT) дало 43,1% против 54,2% у RL: копирование чужого поведения слабее собственной практики.
Фреймворк открытый, Apache-2.0, и маленькая модель после такого обучения одинаково предсказуема во всех оболочках сразу.
Прямой путь к дешёвым агентам на собственных мощностях.
📎 FineEnvs на GitHub,- код сред и обучения
📎 OpenEnv,- прокси и интерфейс сред
#RL #HuggingFace #агенты #OpenSource
———
@tsingular
📋 Команда Hugging Face вместе с Liquid AI опубликовала открытый фреймворк и большую статью: маленькую модель LFM2.5-2.6B обучили методом GRPO одновременно в четырёх оболочках для кодинга,- OpenCode, Claude Code, Codex и Mini-SWE-Agent.
Оболочки работают как есть, их код не трогают.
Результат на отложенных задачах: с 42,2% до 54,2% решённых, и на 31% меньше вызовов инструментов на задачах, которые модель и раньше решала.
⚙️ Инженерный ход,- прокси-перехват между оболочкой и моделью.
Прокси записывает промпты и ответы ровно в том виде, в котором их видела и генерировала модель, вместе с лог-вероятностями.
OpenEnv отдаёт эти трассы в TRL, Harbor поставляет задачи и песочницы.
Оболочка сохраняет свои инструменты, сжатие контекста и цикл выполнения: повторять их логику внутри тренажёра не нужно.
💡 Зачем это нужно: одна и та же модель в разных оболочках показывает разные результаты. GLM-5.2 на SWE-bench Pro,- 23% в одной оболочке и 52% в другой (замер Joel Niklaus).
Смена оболочки двигала GLM-5.1 на 13 пунктов, смена модели внутри одной оболочки,- всего на 2,5-5.
Модель учит «как решать задачу в интерфейсе конкретной оболочки», и вне его навык теряется: OpenSWE-32B в непривычной оболочке падает на 59 пунктов. Frontier-лаборатории уже масштабируют число оболочек при обучении: Kimi K3, Qwen3-Coder-Next (шесть оболочек), MiMo-V2.6.
💼 Обучение на траекториях крупной модели (SFT) дало 43,1% против 54,2% у RL: копирование чужого поведения слабее собственной практики.
Фреймворк открытый, Apache-2.0, и маленькая модель после такого обучения одинаково предсказуема во всех оболочках сразу.
Прямой путь к дешёвым агентам на собственных мощностях.
📎 FineEnvs на GitHub,- код сред и обучения
📎 OpenEnv,- прокси и интерфейс сред
#RL #HuggingFace #агенты #OpenSource
———
@tsingular
🔥8✍4❤1⚡1
OpenH-RF: 39 терабайт сырых данных по ультразвуку от NVIDIA
📋 Университет Эйндховена и NVIDIA выпустили OpenH-RF: крупнейшую открытую коллекцию медицинских ультразвуковых измерений уровня каналов. 19,3 тыс. записей и 39 ТБ данных собрали 38 учреждений, среди них Siemens Healthineers, Johns Hopkins, Weizmann Institute и NIH. Лицензия CC BY 4.0 разрешает и коммерческое использование.
⚙️ Данные каналов,- это сырой сигнал с каждого элемента датчика до схлопывания в изображение. Каждый HDF5-файл несёт сигналы всех элементов, полную геометрию передачи и приёма, а где они есть,- готовые изображения, карты и метки. Формат zea, эталонные скрипты реконструкции открыты в GitHub. Покрытие: эхокардиография, фетальная и транскраниальная визуализация, кровоток, ультразвуковая микроскопия.
💡 Почему именно сырые данные: классический ультразвуковой конвейер сжимает сигнал датчика примерно в сто раз по дороге к изображению реального времени. Кровоток, эластичность и скорость звука в тканях выбрасываются на этом шаге. Модель, обученная на уровне каналов, восстанавливает то, что конвейер теряет, и одна сеть решает сразу несколько задач: реконструкция, движение, количественные карты. Таких открытых данных раньше не существовало, они были заперты у производителей сканеров.
💼 Релиз задуман как датасет плюс сопутствующая LLM, обученная делать выводы на основе этих данных, обучение шло с августа.
Ближайшая польза от открытых данных: портативные сканеры с ИИ-обработкой вместо дорогих аппаратов экспертного класса.
Для медицинской ИИ-индустрии это тот же момент, что ImageNet для компьютерного зрения.
📎 nvidia/OpenH-RF на Hugging Face,- данные, пока ранний доступ
📎 GitHub проекта,- формат zea и реконструкция
#NVIDIA #медицина #OpenSource #датасеты
———
@tsingular
📋 Университет Эйндховена и NVIDIA выпустили OpenH-RF: крупнейшую открытую коллекцию медицинских ультразвуковых измерений уровня каналов. 19,3 тыс. записей и 39 ТБ данных собрали 38 учреждений, среди них Siemens Healthineers, Johns Hopkins, Weizmann Institute и NIH. Лицензия CC BY 4.0 разрешает и коммерческое использование.
⚙️ Данные каналов,- это сырой сигнал с каждого элемента датчика до схлопывания в изображение. Каждый HDF5-файл несёт сигналы всех элементов, полную геометрию передачи и приёма, а где они есть,- готовые изображения, карты и метки. Формат zea, эталонные скрипты реконструкции открыты в GitHub. Покрытие: эхокардиография, фетальная и транскраниальная визуализация, кровоток, ультразвуковая микроскопия.
💡 Почему именно сырые данные: классический ультразвуковой конвейер сжимает сигнал датчика примерно в сто раз по дороге к изображению реального времени. Кровоток, эластичность и скорость звука в тканях выбрасываются на этом шаге. Модель, обученная на уровне каналов, восстанавливает то, что конвейер теряет, и одна сеть решает сразу несколько задач: реконструкция, движение, количественные карты. Таких открытых данных раньше не существовало, они были заперты у производителей сканеров.
💼 Релиз задуман как датасет плюс сопутствующая LLM, обученная делать выводы на основе этих данных, обучение шло с августа.
Ближайшая польза от открытых данных: портативные сканеры с ИИ-обработкой вместо дорогих аппаратов экспертного класса.
Для медицинской ИИ-индустрии это тот же момент, что ImageNet для компьютерного зрения.
📎 nvidia/OpenH-RF на Hugging Face,- данные, пока ранний доступ
📎 GitHub проекта,- формат zea и реконструкция
#NVIDIA #медицина #OpenSource #датасеты
———
@tsingular
🔥18❤3🤯2⚡1