Технозаметки Малышева
13.2K subscribers
5.64K photos
2.14K videos
43 files
5.57K links
Новости инноваций из мира Искусственного Интеллекта. 🤖 [РКН: 7021469833 ]

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸: https://pay.cloudtips.ru/p/c8960bbb
Download Telegram
🚀 OpenRouter: Гигантский супермаркет нейросетей на любой вкус и кошелёк

Так, я тут наконец-то добрался до OpenRouter и в шоке от масштаба — 370+ моделей!

💥 Выбор
Тут есть вообще всё, что можно себе представить (и всё доступно через 1 API):
GPT, Claude, Gemini, Grok, Cohere, Nova, Qwen, Yi, DeepSeek, Mistral, Llama

Что важно, - очень многие из них доступны БЕСПЛАТНО.

А с учётом их количества можно спокойно переключаться между ними в зависимости от задач.

Что особенно круто с точки зрения девопса или техлида:
1. Один API для всего зоопарка моделей — не нужно писать код для каждой модели отдельно
2. Фолбэк-автоматизация — можно настроить автоматическое переключение между моделями при отказе
3. А/Б тестирование моделей — буквально в пару строк кода

Есть подробная документация и инструкция по созданию MCP серверов

#hub #OpenRouter #MCP
———
@tsingular
🔥19👍3
OpenRouter сделали ранкинг моделей на базе статистики использования под разные задачи.

Вопрос,- какая модель лучше для чего? - теперь всегда имеет актуальный ответ.
По месяцам, по неделям, по дням, - в любых разрезах.
Ролевые сценарии, разработка, маркетинг, технологии, наука, переводы, юриспруденция, финансы, здоровье и т.д.

Радует, что по всем направлениям в целом за месяц Соннет 3.7 на первом месте. :) Пользователей не обманешь этими вашими ЛМАренами и прочими бенчмарками.

#ratings #openrouter
———
@tsingular
🔥4
Для многих задач типа чат ботов и распознавания картинок достаточно производительности таких моделей, как Gemma3:27b
И по размеру она влезает на потребительские видеокарты.

Так вот, оказывается в openrouter она бесплатна.
Причём со скоростью 42 токена в секунду!
Т.е. совсем нет смысла в своём железе, если у вас такие модели на нем крутятся.

Подключились и пользуетесь
Ну, если данные не конфиденциальные конечно.

Там ещё много бесплатного:
google/gemini-2.0-flash-exp:free
qwen/qwen3-coder:free
tngtech/deepseek-r1t2-chimera:free
deepseek/deepseek-r1-0528:free
deepseek/deepseek-chat-v3-0324:free
openai/gpt-oss-20b:free
z-ai/glm-4.5-air:free
moonshotai/kimi-dev-72b:free
qwen/qwen3-235b-a22b:free
moonshotai/kimi-vl-a3b-thinking:free
moonshotai/kimi-k2:free

и многие другие, но эти, пожалуй, из бесплатного самые интересные.

Там же эти модели можно погонять в чат режиме:
https://openrouter.ai/chat?models=deepseek/deepseek-chat-v3-0324:free

#Openrouter #free
———
@tsingular
1✍12🔥7⚡4❤3
LLM Council: Карпатый запустил совет директоров из нейросетей

Андрей тоже на выходных вайбкодит и опубликовал приложение, которое отправляет запрос сразу нескольким моделям через OpenRouter, заставляет их оценить ответы друг друга, а затем модель-председатель синтезирует финальный результат.

Идея появилась когда Карпатый читал книги вместе с LLM и хотел видеть разные ответы параллельно.

Внутри три этапа:
- Все модели из совета отвечают на вопрос
- Взаимная оценка и ранжирование ответов
- Председатель выдает итоговый вердикт

Навайбкодили демократию за выходные :)

Вообще совет ИИ экспертов популярная фишка будет, я смотрю.
Нарекаю трендом :)

#Karpathy #OpenRouter #Council #dev
———
@tsingular
1🔥25👍5❤3⚡3
В OpenRouter пополнение: Trinity Large от Arcee доступна бесплатно

В OpenRouter интересный апдейт. Появилась модель Trinity Large от команды Arcee.

Это первая американская open-source модель такого масштаба в свободном доступе на платформе.
Разработчики рассчитывают, что следующие итерации будут максимально конкурентоспособными и смогут на равных бодаться с закрытыми лидерами рынка.

• Архитектура. MoE на 400 миллиардов параметров. За счет высокой разреженности она работает в несколько раз быстрее аналогов.
• Эффективность. Обучение на 17 триллионов токенов обошлось всего в $20 миллионов. Не дорого :)

Сейчас, пока она бесплатная,- удачный момент чтобы протестировать её с агентами вроде opencode/openclaw.

Попробовать в чате: chat.arcee.ai

#Arcee #OpenRouter #OpenSource #Trinity
------
@tsingular
❤11✍5⚡1🤩1
Подключил openrouter к Крабу.

выполнил пару запросов

отключил openrouter от Краба

#openrouter #openclaw #юмор
———
@tsingular
😁5214🤯6🤣4
🚨 Ваш ИИ-агент может быть скомпрометирован.

CCS 2026: «Your Agent Is Mine»

Нашёл интересное системное исследование атак на цепочку поставок LLM — через API-роутеры, которые стоят между вашим приложением и моделью.

Роутеры типа LiteLLM и OpenRouter — это прокси на уровне приложения. Они разрывают TLS-соединение клиента и открывают новое к провайдеру. Это значит: роутер видит всё в открытом виде и может переписать любой ответ.

Что обнаружили в дикой природе:

🔧 Внедрение кода. 1 платный и 8 бесплатных роутеров активно подменяли tool-call аргументы — например, меняли URL в bash-команде на вредоносный. Успешность — 100% на четырёх фреймворках (Claude Code, OpenAI Codex, OpenCode, OpenClaw).

🔑 Кража ключей. 17 роутеров обратились к AWS-канарейкам исследователей. Один роутер похитил приватный ключ и вывел ETH.

🎯 Адаптивное уклонение. Два роутера ждали 50 «чистых» запросов перед атакой — чтобы пройти аудит. Другие атаковали только в «YOLO-режиме», когда агент автоматически выполняет все tool-команды.

Но главное — транзитивная угроза:

Один утёкший ключ OpenAI сгенерировал 100 млн токенов и вскрыл 7+ сессий Codex. Декоративный «слабый» роутер, поднятый исследователями, втянулся в цепочку поставок, обработал 2 млрд токенов и поймал 99 учёток в 440 сессиях. Из них 401 сессия работала в YOLO-режиме — автоподтверждение всех команд.

Почему это работает: ни один провайдер не подписывает свои ответы криптографически. Нет механизма проверить, что ответ от GPT или Claude — действительно от них, а не подменён посредником. Оверхед атаки — 0,013 мс, неотличим от сетевого джиттера.

Защита, которая есть сейчас:

🛡 Шлюз политик для опасных инструментов — блокирует запросы к незнакомым доменам. Блокирует 100% базовых атак, но 0% адаптивных (через allowlisted-домены)

📊 Аномали-скрининг ответов (IsolationForest) — ловит 89% подмен при 6,7% ложных срабатываний

📝 Логирование с хешированием — для расследования инцидентов постфактум, 1,26 КБ на запись

Что предлагают авторы: провайдеры должны подписывать ответы криптографически — JSON-конверт с полем provider, model, request_nonce и подписью. Клиент проверяет подпись и понимает, был ли ответ подменён.

Практический вывод: если ваш агент может выполнять код или вызывать API — не пускайте его через непроверенные роутеры. Отключите YOLO-режим.

#ИБ #агенты #LLM #cybersecurity #LiteLLM #OpenRouter
───
@tsingular
✍10👍5🔥4⚡3❤3👀1
Hermes Agent получил Mixture of Agents — виртуального провайдера, собирающего консилиум из моделей

Nous Research встроила в Hermes Agent механизм, который выглядит как обычная модель, но под капотом собирает совет из нескольких LLM.
Называется Клуб Что? Где? Когда? Mixture of Agents (MoA),- реализован как полноценный самостоятельный виртуальный провайдер с собственной логикой агрегации результата.

⚡️ Как работает: вы выбираете MoA-пресет как обычную модель — через /model, Dashboard или TUI. Hermes запускает reference-модели (например, GPT-5.5 и DeepSeek V4 Pro), они анализируют задачу, а aggregator (скажем, Claude Opus 4.8) пишет финальный ответ и вызывает инструменты. Агентский цикл не ломается: tool calls, follow-up итерации, прерывания, транскрипт — всё работает как с обычной моделью.

🦀 Пресеты настраиваются в config.yaml — можно смешивать провайдеров, задавать отдельно температуру для reference и aggregator, лимитировать токены.

Команда /moa работает как алиас: без аргументов переключает на дефолтный пресет, с именем пресета — на конкретный, с произвольным текстом — выполняет one-shot запрос через MoA и возвращает предыдущую модель.

📦 MoA компонуется с остальной экосистемой автоматически: /goal, gateway-сессии, TUI, Desktop — везде, где выбирается модель. В списке провайдеров появляется отдельная строка Mixture of Agents, а её модели — это ваши пресеты.

Вектор интересный: вместо гонки за одной супер-моделью — консилиум из нескольких, где агрегатор получает размеченный анализ и принимает итоговое решение.
На сложных задачах можно получить результат лучше, чем от самых сильных моделей поодиночке.

Похожий подход недавно реализовал OpenRouter: Fusion Router запускает панель моделей параллельно, судья сравнивает ответы и выдаёт структурированный JSON-анализ — консенсус, противоречия, пробелы, слепые зоны.
Разница лишь в том, что Fusion Router — это API-слой, а MoA встроен прямо в агентский цикл Hermes: aggregator не просто читает анализ, а продолжает работать с инструментами, файлами и контекстом сессии.

Такими темпами, глядишь, архитектура мультимодельных совещаний станет стандартом.

Fable и GPT-5.6 можно не ждать, а добиться схожего результата через совет агентов.

#Hermes #MoA #агенты #OpenRouter
———
@tsingular
🔥22❤5🏆2⚡1👍1🤔1👌1
Зато в openrouter заработала

#openrouter
———
@tsingular
👍9🔥6👀2
Stripe покупает OpenRouter

Stripe договорился купить OpenRouter, агрегатор доступа к сотням ИИ-моделей через один API.
Сумма сделки больше 7 миллиардов долларов. В мае стартап оценивался в 1,3 миллиарда.

📋 Ключевые цифры:
• $7+ млрд: сумма сделки, более чем в 5 раз выше майской оценки
• 400+ моделей через один API: маршрутизация между OpenAI, Anthropic и открытыми моделями
• Миллионы разработчиков, комиссия всего около 5,5% поверх стоимости модели
• Основан в 2023 Алексом Аталла, сооснователем OpenSea.
Инвесторы: CapitalG и Menlo Ventures

💡 Токены становятся деньгами. OpenRouter устроен как платёжная сеть: зарабатывает процент с каждого запроса к модели. Сам Аталла называл компанию «Stripe для ИИ». Теперь Stripe покупает своего визави.

Стратегию объясняет анонс Stripe Sessions 2026: «По мере того как токены становятся взаимозаменяемы с деньгами, потоковые платежи в реальном времени важны для экономической инфраструктуры Stripe».

Stripe уже обрабатывает платежи OpenRouter, то есть видит его выручку и рост в реальном времени.

💼 Последствия для рынка:
• Stripe выходит из чистых платежей в ИИ-инфраструктуру и окажется по обе стороны транзакции токенов
• Конкуренты запускают похожую маршрутизацию: Ramp (оценка $44 млрд), Cursor, Databricks

Интересно, т.е. у хабов моделей есть перспектива превратиться в банки?

#Stripe #OpenRouter #AI
------
@tsingular
🤯8🔥4⚡2❤1