Технозаметки Малышева
13.2K subscribers
5.58K photos
2.12K videos
43 files
5.52K links
Новости инноваций из мира Искусственного Интеллекта. 🤖 [РКН: 7021469833 ]

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸: https://pay.cloudtips.ru/p/c8960bbb
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
Mercury 2: Диффузионный ИИ врывается в мир агентских рассуждений со скоростью 1000 токенов/сек

Stefano Ermon (Inception Labs) представил Mercury 2 — первый «рассуждающий» dLLM (Diffusion Large Language Model).
В основе,- диффузия вместо авторегрессии.
Результат — пятикратный рост производительности и скорость свыше 1000 токенов в секунду.

🏗 Диффузия вместо печатной машинки
Главное отличие: обычные LLM работают как печатная машинка (авторегрессионно, токен за токеном).

Mercury 2 работает как редактор — параллельно и итеративно уточняет весь контекст сразу.

Это позволяет модели ловить собственные ошибки прямо в процессе генерации и радикально снижать стоимость инференса.

📺 Аналогия: Эволюция форматов
Это как переход от записи звука на виниловую дорожку (где одна царапина губит всё) к цифровому мастерингу.

В авторегрессии ошибка в первом токене ведет к галлюцинации всей цепочки.

Mercury 2 «перерисовывает» ответ, пока он не станет верным, что делает её идеальной для сложных многошаговых агентов.

⚡️ Агентский дедлайн
Скорость в 1000 токенов/сек — это не просто цифра.
Это возможность для агентов думать в реальном времени, не заставляя пользователя ждать.

Интерактивный поиск и голосовые ассистенты теперь могут уместиться в жесткие тайминги, которые раньше были за гранью возможного для Reasoning-моделей.

🧠 Зачем это бизнесу:
Снижение задержек (Latency) и стоимости инференса. Итеративное уточнение — это путь к более надежным системам.

Если агент может исправлять себя на лету, количество «выброшенных» токенов и неудачных попыток сокращается.

Сайт проекта:
https://www.inceptionlabs.ai/models

Попробовать:
https://chat.inceptionlabs.ai/

Осталось впаять диффузионки в чип и получить 1млн токенов в секунду.
Уже не звучит как фантастика.
Думаю увидим через 3 года.

#Mercury2 #Diffusion #Inception
------
@tsingular
⚡17🤯6👀5🔥4❤2
This media is not supported in your browser
VIEW IN TELEGRAM
Mercury 2 демо.

ну, красиво, конечно :)

тут
https://chat.inceptionlabs.ai/

Есть API по $0.75 за миллион output

#Mercury #Inception
———
@tsingular
👍6🔥4❤3⚡1
NVIDIA Inception: как стартапам получить скидки на GPU, облачные гранты и венчурный капитал

Если вашему стартапу нужны ИИ ресурсы, - не обязательно экономить на обедах и копить на 3090.
NVidia раздаёт доступ к инференс ресурсам, тренингам и даже к инветорам в рамках своей программы, - Incveption.
Программа даже не потребует у вас долю в стартапе.

⚡️ Железо, облачные кредиты и скидки:
Участники получают прямой доступ к инфраструктурным ресурсам:
• Рибейты на корпоративные GPU: партнерские цены на серверные ускорители NVIDIA для локальных кластеров.
• Облачные гранты: бесплатные вычислительные квоты от провайдеров и доступ к мощностям DGX Cloud.
• Обучение в институте DLI: бесплатные курсы и скидки на профильные инженерные воркшопы.

🧠 Софтверный стек и ранний доступ:
Inception, - это не только скидки на кремний, но и интеграция в закрытый софт:
• Готовые микросервисы инференса NVIDIA NIM для быстрого вывода моделей в прод.
• Инструменты разработки агентов NeMo, модели Nemotron, симуляторы робототехники Isaac и среда физического ИИ, - Cosmos.
• Прямые консультации с архитекторами NVIDIA на закрытых форумах разработчиков.

💼 Венчурный лифт для фаундеров:
Для стартапов на этапе поиска инвестиций действует закрытая платформа венчурного нетворкинга. Она связывает участников с пулом глобальных венчурных фондов VC и открывает слоты для питчей на конференциях уровня GTC.

📋 Кто проходит отбор:
Критерии: официальное юрлицо моложе 10 лет, работающий сайт, питч-дек и хотя бы один разработчик в штате.
Выручка и опыт работы с GPU на старте не требуются.

Доступ закрыт только для аутсорсеров, консалтеров (😢) и для криптопроектов.

#NVIDIA #стартапы #инвестиции #инфраструктура #Inception
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡4✍3🔥1😭1
Inception выпустили Mercury 3 с диффузионной генерацией на скорости 1 068 токенов в секунду

Inception представила Mercury 3, языковую модель с контекстом 1 млн токенов. По данным компании, она сопоставима по качеству с GPT-6 Luna и Claude Haiku 5.5, а текст генерирует в 4–8 раз быстрее.

⚙️ В основе семейства Mercury используется Transformer. При диффузионной генерации модель за несколько шагов превращает зашумлённую последовательность в связный текст, уточняя сразу несколько токенов параллельно.
Это позволяет лучше загружать вычислительные блоки GPU. В API готовый ответ поступает блоками; отдельный режим показывает промежуточные стадии уточнения текста.

📈 Главное техническое заявление релиза касается масштабирования. По числу параметров Mercury 3 более чем в 40 раз крупнее Mercury 1, но сохраняет скорость около тысячи токенов в секунду.
Абсолютный размер модели и подробное устройство новой версии компания в анонсе не раскрывает.

🧪 По бенчам Inception Mercury 3 набрала 89,23% на GPQA Diamond против 86,36% у GPT-6 Luna и 84,51% у Claude Haiku 5.5.
Все три сравниваются в режиме Medium.
При этом на DeepSWE и некоторых тестах длинного контекста Mercury уступает.

💰 На старте миллион входных токенов стоит $0,10, выходных $0,35.
Это скидка 50% от обычных $0,20 и $0,70. Заявлен доступ через Inception API, OpenRouter, Baseten и Vercel; API совместим с OpenAI.

📎 Как устроено семейство Mercury · Потоковая выдача и диффузия в API

#Inception #Mercury #модели
———
@tsingular
⚡9👍2🆒2✍1