Нейронавт | Нейросети в творчестве
13.2K subscribers
7.14K photos
5.66K videos
51 files
7.23K links
Канал про нейросети в компьютерной графике, в кино и вообще

В папках и запусках не участвую

для связи @Neuronauticus

РКН: https://hf.ru/link8e56d
Download Telegram
EVIE-Preview-4.5B

Модель Tencent для визуального поиска по документам на базе Qwen3.5-4B

ищет релевантные страницы по запросу, глядя на картинки, а не на извлечённый текст. Эмбеддинги ультракомпактные, 128 измерений на токен, отсюда низкие требования к памяти и быстрый поиск.

• Поиск по сканам, PDF, таблицам, диаграммам и отчётам без OCR
• Мультиязычность - EN, FR, DE, IT, ES, PT, ZH и другие
• Zero-shot на новых языках и форматах

#SOTA на ViDoRe
• Обходит 8B модели, будучи вдвое меньше

Гитхаб
HF

#vlm #search #ocr

VK | MAX
🔥4👍1
MOSS-VL

Семейство открытых визуально-языковых моделей от OpenMOSS. Флагманская фишка - реалтайм-стриминг: модель смотрит на входящие кадры и отвечает параллельно, не дожидаясь конца видео

модель живёт в настоящем времени, а не смотрит запись постфактум. Вместо внешних планировщиков и опроса раз в секунду - три встроенных поведения: ответ в любой момент, проактивное молчание, своевременная коррекция.

• 11B параметров, контекст 256K
• Кванты FP8 и NF4

Гитхаб
HF
Демо

#vlm #realtime #fp8 #nf4 #dialog #interactive

VK | MAX
🔥5👍4
AVA-Encoder

Система от Qwen создает по фильму структурированный граф знаний: персонажи, сцены, события, объекты, стили, камера, аудио. Агент может читать этот граф, редактировать, переиспользовать

- Видео → граф знаний → обратно в видео. Реконструкция как метрика качества: чем точнее восстановил, тем больше информации сохранил энкодер
- Граф можно редактировать: заменить персонажа в сцене, поменять стиль освещения - зависимые элементы обновляются автоматически по связям
- Готовый граф можно скормить другим видеогентам (MovieAgent, FilmAgent, Anim-Director) - качество их генерации растёт без дообучения
- Два этапа оптимизации: внешний цикл обучает политику энкодера до деплоя, внутренний (опционально) дорабатывает граф конкретного видео на лету

Гитхаб

#vlm

VK | MAX
🔥19❤3🤷‍♂2👍1
TIPS v2

Пониматор картинок от Google DeepMind с пространственным чутьем. Если CLIP понимает ЧТО на картинке, то TIPS еще и ГДЕ это. Признаки считаются не только для всего изображения, а для каждого участка (патча) отдельно

- Zero-shot классификация по текстовым описаниям без дообучения
- Пространственные признаки с каждого патча: скармливаешь их в сегментацию, оценку глубины, детекцию - позиции объектов не теряются
- Работает на других разрешениях через интерполяцию позиционных эмбеддингов

- 1.1B vision-параметров, 389M текстовых, эмбеддинг 1536, разрешение 448
- Вся линейка: от S/14 (22M) до g/14 low-res, есть вариант под слабое железо
- ~2B параметров суммарно, лицензия Apache 2.0

Гитхаб
HF
Демо

#vlm #image2features
👍8🔥1
DeepSeek-V4-Flash-Vision-Exp

Экспериментальная мультимодальная Vision модель DeepSeek для агентов. Текст на уровне V4-Flash, плюс зрение. По визуальным агентским бенчмаркам вплотную к Opus 4.8 при ценах Flash

- Читает скриншоты, документы, анализирует графики и диаграммы - стандартные агентские сценарии с экраном
- Текстовые способности не просели относительно V4-Flash
- Смешанный ввод: текст + изображение в одном запросе
- Три способа передачи картинки: base64 inline, внешний URL, Files API с переиспользованием файлов
- Совместима с OpenAI и Anthropic API

- Форматы: JPEG, PNG, GIF, WebP
- До 384 токенов за изображение - по цене V4-Flash
- До 600 картинок в одном запросе, до 64 МБ на файл
- DeepSeek Harness 0.1.1 поддерживает из коробки

API

#api #vlm

VK | MAX
🔥9👍4
SenseNova-U1.5-8B-MoT

Превью мультимодалки от SenseNova. Полную ждем

Понимание и генерация картинок в одном трансформере. Никакого VAE, текстового энкодера и DiT

- Текст и картинка используют разные веса в смеси трансформеров, но аттендят друг на друга
- Нативный 4K
- Уверенный рендер текста на китайском и английском
- Точное редактирование
- Понимает структурированные длинные промпты без отдельного обучения

- на Qwen-Image Bench - уровень Nano Banana 2
- на ImgEdit-Bench и GEdit-Bench обходит Nano-Banana и Qwen-Image-2

Гитхаб
HF
Есть 8-шаговая лора
Попробовать
Comfyui

#4k #vlm #imageediting

VK | MAX
👍13❤1
ComfyUI-QwenVL

запуск Qwen-VL внутри #ComfyUI - визуальное понимание и генерация текста.

Раньше при попытке скормить видео 1080p нода вылетала с OOM, теперь автоматический рассчет токенов и масштабирование кадров под контекст модели

- Умное масштабирование видео: 1080p/4K автоматически поджимается под безопасный бюджет токенов — 16-32 кадра без вылета
- Маленькие видео (480p) не трогает — идут в оригинале
- Можно переопределить вручную через dropdown: auto, 384, 448, 512, 768, original

Работает с GGUF (llama.cpp) и Transformers (Hugging Face)

#vlm

VK | MAX
👍9
This media is not supported in your browser
VIEW IN TELEGRAM
Code as Worlds

VLM-агент, который пишет код симуляции физики на каждом шаге генерации видео

- Смотрит видео и пишет код сцены: объекты, их свойства, отношения, правила движения, камера, освещение
- Код в симуляторе проверяет как изменится сцена если поменять параметры
- Композиция: можно разобрать сцену на части и менять части
- Отделяет физическое состояние от внешнего вида — знает, что тяжёлый предмет не зависит от того, какого он цвета

Гитхаб
HF
Демо

#vlm #simulation #t2v #physics

VK | MAX
👍9
DeepSeek-V4-Flash-Vision-Exp

Спустя 10 дней после релиза DeepSeek открыл веса модели под лицензией MIT. Взяли архитектуру V4-Flash, добавили визуальные модули - получился агент, который читает скриншоты и графики.

В репозитории лежат токенизатор, PyTorch-инференс с визуальным энкодером и MoE

Кванты

#vlm

VK | MAX
👍14❤4
This media is not supported in your browser
VIEW IN TELEGRAM
NeoMME

Поиск по PDF-документам без OCR. Страницы обрабатываются как изображения, поиск учитывает верстку, таблицы, графики и типографику

- Ретривер для RAG: ищет нужные страницы PDF по запросу, а не генерирует ответ
- Понимает визуальную структуру — таблицы, графики, колонки, дизайн страницы. OCR выбросил бы всё это
- Загрузка документа + запрос → модель возвращает релевантные страницы
- 2 размера: 260M и 800M — под разное железо

Демо

#vlm #ocr

VK | MAX
👍6🤔2
EVIE

Открытый визуальный ретривер документов от Tencent.

Самый точный на Hugging Face. Ищет нужные страницы PDF по смыслу и верстке, не полагаясь на #OCR
Получается конкурент NeoMME

- Понимает страницу целиком: текст, таблицы, графики, типографику — визуальный слой участвует в поиске
- Multi-vector late-interaction: сравнивает запрос с фрагментами документа, а не только с одним эмбеддингом — точнее семантика

- Apache-совместимая открытая лицензия
- Две версии: EVIE-8B и EVIE-4.5B

Гитхаб

#vlm

VK | MAX
👍12🔥3🤝2
CVRR (DMIS-Lab — KAIST)

Принудительное визуальное мышление: модель не может ответить на вопрос по картинке, не подумав скрытым состоянием, отделенным от прямого доступа к визуальным данным

Обычная #VLM может жульничать — ответ приходит прямым путем из визуальных токенов. CVRR перекрывает этот обход: ответный декодер видит только рекуррентное скрытое состояние, а не оригинальные визуальные ряды. Если модель ответила — значит она действительно рассуждала через латент.

- Доступны чекпоинты на Qwen2.5-VL-7B, Qwen3-VL-8B, Gemma3-4B/12B, Gemma4-12B, InternVL3-9B
- Apache 2.0

Гитхаб
HF

VK | MAX
👍8🔥3
ComfyUI Assistant

Еще один ИИ-ассистент в интерфейсе #ComfyUI.

Лезет в твой граф. Видит ноды, соединения, виджеты. Может объяснить, что делает выбранный участок, выделить нужные ноды на канве, поменять значения, добавить или убрать ноды, пересоединить, поправить промпты, завальдировать после изменений

Поиск по установленным нодам и документации. Установка кастомных репозиториев после подтверждения. Запоминает исправления и предпочтения между диалогами

Веб-поиск (Brave, Tavily, SerpAPI)

Работа с картинками (#vlm)

Поддерживает LM Studio, Ollama, OpenAI-совместимые API и Anthropic

Пока только ручная установка с GitHub

#assistant

VK | MAX
👍9❤1👀1
Gemini 3.8 Live и 3.8 Live Extended Thinking (Google DeepMind)

Две рилтайм голосовые модели. Быстрая и умная. Обе видят экран, слышат голос, понимают паузы и перебивания.

3.8 Live — диалог, 97 языков с переключением на лету, зрение в реальном времени. Инструменты и API-вызовы выполняются в фоне пока разговор продолжается.

3.8 Live Extended Thinking — рассуждает и говорит одновременно. На сложных задачах произносит «дай-ка подумаю...» и постепенно озвучивает ход мыслей не замолкая.

#1 на Artificial Analysis Speech to Speech Quality Index (82.6)

SynthID водяной знак на все аудио.

Gemini API
AI Studio
Enterprise Platform

#dialog #voicemode #interactive #alm #vlm
👍13
LensVLM-9B от Apple

Визуально-языковая модель на базе Qwen3.5-9B. Читает текст в сжатом виде, а потом точечно разворачивает до полного формата только те страницы, которые нужны для ответа

• сканирование сжатых изображений текста
• выборочное расширение нужных страниц через выученные инструменты
• точность держится при сжатии в 4.3 раза
• обходит retrieval и текстовые компрессоры до 10.1 раза

• 9B параметров
• степени сжатия 5x, 10x, 15x
• работает с документами по запросу - вопрос и путь к файлу

Экономит контекст на длинных документах: модель видит ужатую версию, а полные страницы загружает только когда они реально нужны

Гитхаб
HF
Демо

#vlm #ocr

MAX
👍11
Realtime-Venus

Мультимодалка, полный аудио дуплекс: модель слушает, пока говорит, видит аудио-видео контекст и параллельно делегирует задачи в фон, не прерывая диалог. Два чекпоинта по 9B на базе MiniCPM-o 4.5

• Omni - аудио-видео: непрерывно смотрит и слушает, сама решает, когда ответить
• Audio - голосовый диалог с речевым выводом
• асинхронная делегация - <delegate>-запросы в потоке, внешние задачи не блокируют разговор
• память длинных видео без дообучения
• различает перебивания, коррекции и редиректы

Вход: видео, аудио, текст. Выход: текст и речь. Языковая база - Qwen3-8B, контекст 40960 токенов

Гитхаб
HF
Heretic
Демо

#multimodal #duplex #realtime #dialog #vlm #alm
👍7🔥3
Youtu-Parsing-Omni

Компактная омнимодальная парсинг-модель от Tencent: один 5B трансформер превращает в структурированный JSON почти что угодно — документ, картинку, график, чертеж, аудио и видео.

• Парсинг документов: лейаут, текст, таблицы, формулы, порядок чтения
• Картинки, графики, блок-схемы, геометрические фигуры
• Аудио: ASR, спикеры, сцены, акустические события
• Видео: кадры, OCR+ASR, отчёт о клипе
• Один унифицированный JSON-конверт для семи семейств задач
• Распознавание химструктур (ChemOCR) и нот (PDMX)

• 5B параметров, один энкодер на все модальности
• #SOTA на OmniDocBench v1.6 (96.96)
• Лучшая опенсорс на OmniParsingBench (75.08), после Gemini-3-Pro
• vLLM-плагин для быстрого сервинга

github.com/TencentCloudADP/youtu-parsing
learn2play.fun

#omnimodal #multimodal #any2json #vlm #alm

MAX
❤6👍5
Media is too big
VIEW IN TELEGRAM
GroundingPI

4B фундаментальная модель на визуальных примитивах для локализации объектов — детекция, позиция, OCR и другие.

• Локализация точками и боксами как квантованные координаты в общем словаре
• Несколько grounding-задач: детекция, pointing, OCR, layout, GUI
• Как визуальный бэкбон улучшает робоманипуляцию и автопилот
• #SOTA на 34 бенчмарках, 11 возможностей восприятия: средний 73.68% против 71.54% у GPT-6 Astra

GroundAnything
Быстрая локализация через параллельное декодирование на диффузии

GroundAnything VLM
Высокая точность локализации авторегрессивной VLM

github.com/groundingpi/GroundAnything
huggingface.co/GroundingPI
huggingface.co/spaces/GroundingPI/groundanything-vlm

#vlm #ocr #detection

MAX
👍9
This media is not supported in your browser
VIEW IN TELEGRAM
VideoJev

Адаптировали #rlcd #decision для понимания видео

Семейство открытых «System One» видеомоделей от NJU и JD.com. Объединяют временную локализацию и видео-QA через общий интерфейс оценки кандидатов — без авторегрессивного декодирования.

Видео-QA до 100-129× быстрее Thinking-режима

На QA качество сравнимо с бэкбонами в Thinking-режиме, но в разы быстрее. Точность высокая, но уверенность модели переоценена — calibration error ~8 пунктов

Гитхаб
HF

#vlm

MAX
🔥3
MJev-Spatial

Мультимодальная decision-модель для пространственных вопросов. Превращает вопрос в выбор из конечного набора кандидатов и отвечает классификацией — без генерации токенов ответа.

• База — Qwen3.5-4B, переиспользуются ее же Q/K-проекции для оценки кандидатов
• Лучший средний результат на 7 из 12 бенчмарков
• В 5.6 раза быстрее базовой модели

github.com/Fr0zenCrane/MJev-Spatial
———

Jev 1.14 от TypeSafe - с мультимодальностью

• Картинки: мультимодальность включается заголовком TypeSafe-Danger-Zone-Images: true
• Новый тип box: возвращает один bounding box
• Длинный контекст: TypeSafe-Danger-Zone-Long-Context: true.

На мультимодальности все модели, включая Jev, работают хуже, чем на чистом тексте

#rlcd #decision #vlm

MAX
👍5