FreeToken
Инференс-система для MoE-моделей на домашнем железе
- Запуск моделей локально от 35B на ноутбуке до 284B на игровом ПК и 753B GLM-5.2 на одной рабочей станции
- Без фиксированной схемы выгрузки: динамически распределяет вычисления между CPU и GPU под то, что реально свободно
- Поддержка агентных сценариев: переиспользование состояния между вызовами, адаптация под меняющийся паттерн нагрузки
- Оптимизация всего стека от раскладки модели на диске до runtime-управления памятью
- 20+ моделей, включая Qwen, DeepSeek, GLM, Mixtral и др. MoE-архитектур
- От 8 GB VRAM (ноутбук) до одной workstation GPU
- Открытый исходный код
- Авторы из FlashML при Berkeley — сплошь звёздные имена (Song Han, Matei Zaharia, Ion Stoica, Kurt Keutzer)
- Windows, Linux, macOS
Гитхаб
#lowvram #desktop #moe
VK | MAX
Инференс-система для MoE-моделей на домашнем железе
- Запуск моделей локально от 35B на ноутбуке до 284B на игровом ПК и 753B GLM-5.2 на одной рабочей станции
- Без фиксированной схемы выгрузки: динамически распределяет вычисления между CPU и GPU под то, что реально свободно
- Поддержка агентных сценариев: переиспользование состояния между вызовами, адаптация под меняющийся паттерн нагрузки
- Оптимизация всего стека от раскладки модели на диске до runtime-управления памятью
- 20+ моделей, включая Qwen, DeepSeek, GLM, Mixtral и др. MoE-архитектур
- От 8 GB VRAM (ноутбук) до одной workstation GPU
- Открытый исходный код
- Авторы из FlashML при Berkeley — сплошь звёздные имена (Song Han, Matei Zaharia, Ion Stoica, Kurt Keutzer)
- Windows, Linux, macOS
Гитхаб
#lowvram #desktop #moe
VK | MAX
😱10👍7😁2👀2❤1🌚1
This media is not supported in your browser
VIEW IN TELEGRAM
Origin
Гит-хостинг типа GitHub, только встроенный в Cursor и заточенный под ИИ-агентов
GitHub сделан под человеческий ритм: один разраб → одна ветка → PR раз в несколько часов. Агенты же коммитят постоянно и очень быстро. Origin спроектирован под большой поток коммитов
- Создаёшь репозиторий с нуля в Cursor, называется Origin
- Или подключаешь свой GitHub - репа синкается за минуту, изменения подтягиваются в реальном времени
- PR, код-ревью, комменты - всё есть, работает в обе стороны с GitHub
- Агент может сам клонировать репу, создавать ветки, коммитить, открывать и мерджить PR
- Подключил Vercel - каждый PR автоматом получает превью-деплой
Чего пока нет:
- Автоматического разрешения конфликтов слияния
- Обработки нескольких агентов, работающих параллельно в одном репо
Сейчас ранняя бета на платных тарифах
#coding
VK | MAX
Гит-хостинг типа GitHub, только встроенный в Cursor и заточенный под ИИ-агентов
GitHub сделан под человеческий ритм: один разраб → одна ветка → PR раз в несколько часов. Агенты же коммитят постоянно и очень быстро. Origin спроектирован под большой поток коммитов
- Создаёшь репозиторий с нуля в Cursor, называется Origin
- Или подключаешь свой GitHub - репа синкается за минуту, изменения подтягиваются в реальном времени
- PR, код-ревью, комменты - всё есть, работает в обе стороны с GitHub
- Агент может сам клонировать репу, создавать ветки, коммитить, открывать и мерджить PR
- Подключил Vercel - каждый PR автоматом получает превью-деплой
Чего пока нет:
- Автоматического разрешения конфликтов слияния
- Обработки нескольких агентов, работающих параллельно в одном репо
Сейчас ранняя бета на платных тарифах
#coding
VK | MAX
🔥5🍌2👨💻2👍1
AVA-Encoder
Система от Qwen создает по фильму структурированный граф знаний: персонажи, сцены, события, объекты, стили, камера, аудио. Агент может читать этот граф, редактировать, переиспользовать
- Видео → граф знаний → обратно в видео. Реконструкция как метрика качества: чем точнее восстановил, тем больше информации сохранил энкодер
- Граф можно редактировать: заменить персонажа в сцене, поменять стиль освещения - зависимые элементы обновляются автоматически по связям
- Готовый граф можно скормить другим видеогентам (MovieAgent, FilmAgent, Anim-Director) - качество их генерации растёт без дообучения
- Два этапа оптимизации: внешний цикл обучает политику энкодера до деплоя, внутренний (опционально) дорабатывает граф конкретного видео на лету
Гитхаб
#vlm
VK | MAX
Система от Qwen создает по фильму структурированный граф знаний: персонажи, сцены, события, объекты, стили, камера, аудио. Агент может читать этот граф, редактировать, переиспользовать
- Видео → граф знаний → обратно в видео. Реконструкция как метрика качества: чем точнее восстановил, тем больше информации сохранил энкодер
- Граф можно редактировать: заменить персонажа в сцене, поменять стиль освещения - зависимые элементы обновляются автоматически по связям
- Готовый граф можно скормить другим видеогентам (MovieAgent, FilmAgent, Anim-Director) - качество их генерации растёт без дообучения
- Два этапа оптимизации: внешний цикл обучает политику энкодера до деплоя, внутренний (опционально) дорабатывает граф конкретного видео на лету
Гитхаб
#vlm
VK | MAX
🔥19❤3🤷♂2👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Raon-OpenTTS-1B
Открытая zero-shot TTS-модель. Клонирование голоса без дообучения
- Работает в шуме, с эмоциями, разными акцентами и стилями речи
- Встраивается в F5-TTS пайплайн
- Две версии: 1B и 0.3B
- Аудио: 80-канальный mel-спектр, 16 kHz
Гитхаб
HF
ComfyUI
Спасибо @m_franz @p0lygon
#tts #voicecloning #comfyui
VK | MAX
Открытая zero-shot TTS-модель. Клонирование голоса без дообучения
- Работает в шуме, с эмоциями, разными акцентами и стилями речи
- Встраивается в F5-TTS пайплайн
- Две версии: 1B и 0.3B
- Аудио: 80-канальный mel-спектр, 16 kHz
Гитхаб
HF
ComfyUI
Спасибо @m_franz @p0lygon
#tts #voicecloning #comfyui
VK | MAX
1👍9👎2😈2👀2🔥1
Ornith-1.5
Семейство открытых моделей для программирования, логики и агентов. Сами придумывают себе задачи, собирают инструменты для их решения и учатся на собственных попытках
- Три версии: плотная 9B, MoE 35B-A3B (активирует 3B на токен), MoE 397B
- Модель сама генерирует новые задачи, пишет под них скэффолды (инструкции, инструменты, стратегию) и разворачивает решения
- Механизм валидации: задача должна быть решаема, находиться на границе возможностей модели и не повторять уже решtнные
- Работа через агентов: Terminal-Bench, SWE-bench, MCP-Atlas, BrowseComp
- Ornith-1.5-397Be Opus 4.8, обходит GLM-5.2 и DeepSeek-V4-Flash
- Ornith-1.5-35B-A3B сильнее Gemma 4-31B и Qwen 3.6-35B несмотря на 3B активных параметров
- Ornith-1.5-9B работает на смартфонах с квантизацией
- Контекст: 128K-256K (в зависимости от задачи)
- Кванты FP8, GGUF, MLX, NVFP4
HF
спасибо @Endorpheen
#agent #mobile
Семейство открытых моделей для программирования, логики и агентов. Сами придумывают себе задачи, собирают инструменты для их решения и учатся на собственных попытках
- Три версии: плотная 9B, MoE 35B-A3B (активирует 3B на токен), MoE 397B
- Модель сама генерирует новые задачи, пишет под них скэффолды (инструкции, инструменты, стратегию) и разворачивает решения
- Механизм валидации: задача должна быть решаема, находиться на границе возможностей модели и не повторять уже решtнные
- Работа через агентов: Terminal-Bench, SWE-bench, MCP-Atlas, BrowseComp
- Ornith-1.5-397Be Opus 4.8, обходит GLM-5.2 и DeepSeek-V4-Flash
- Ornith-1.5-35B-A3B сильнее Gemma 4-31B и Qwen 3.6-35B несмотря на 3B активных параметров
- Ornith-1.5-9B работает на смартфонах с квантизацией
- Контекст: 128K-256K (в зависимости от задачи)
- Кванты FP8, GGUF, MLX, NVFP4
HF
спасибо @Endorpheen
#agent #mobile
👍10❤8🔥2😱2
LTX 2.5 - CQ Video and Image Enhancer LoRAs
Две лоры #LTX25 улучшайзеры-апскейлеры картинок и видео
спасибо @m_franz
#lora #upsacale #enhance #imagerestoration #videorestoration
VK | MAX
Две лоры #LTX25 улучшайзеры-апскейлеры картинок и видео
спасибо @m_franz
#lora #upsacale #enhance #imagerestoration #videorestoration
VK | MAX
👍11🥴4👎3❤2
ComfyUI-MiniMax-H3-Studio
Надстройка над MiniMax H3 для ComfyUI
Генерация изображений без ручной сборки графа. Один воркфлоу, три режима, все H3 внутри
- Текстовое описание → изображение (FL2VA)
- Редактирование по референсу: до 9 изображений, каждому назначается роль
- Image-to-image с сохранением канвы, независимым разрешением
- Face Refine: дорисовка мелких лиц через повторный H3-прогон
- Сэмплинг Base 20 шагов, LightX 8/4 шага, PDD 4 шага
- Qwen3-VL анализирует референсы и пишет компактную инструкцию
#comfyui #munumaxH3 #t2i #imageediting #fl2va
VK | MAX
Надстройка над MiniMax H3 для ComfyUI
Генерация изображений без ручной сборки графа. Один воркфлоу, три режима, все H3 внутри
- Текстовое описание → изображение (FL2VA)
- Редактирование по референсу: до 9 изображений, каждому назначается роль
- Image-to-image с сохранением канвы, независимым разрешением
- Face Refine: дорисовка мелких лиц через повторный H3-прогон
- Сэмплинг Base 20 шагов, LightX 8/4 шага, PDD 4 шага
- Qwen3-VL анализирует референсы и пишет компактную инструкцию
#comfyui #munumaxH3 #t2i #imageediting #fl2va
VK | MAX
👍18
This media is not supported in your browser
VIEW IN TELEGRAM
fx
Харнесс для кодинг-агента на Zig от Vercel Labs
Бинарник 6 МБ, старт за 10 микросекунд
- Не привязан к модели или провайдеру, локальный инференс и облачный одинаково
- Расширяется через skills, плагины и MCP
- Интерфейс как Unix-оболочка, а не TUI-IDE: минимум вывода, история прокрутки, без тяжёлых отрисовок
- Эффективный системный промпт и инструменты экономят токены
- Через WebAssembly запускается прямо в браузере на fx.sh/try
- Никакой продуктовой телеметрии, сессии и статистика только локально
- При локальном инференсе + отключённых автообновлениях работает полностью офлайн
- Vercel предупреждает: проект экспериментальный, изменения будут частыми
Гитхаб
#harness #agent #coding
VK | MAX
Харнесс для кодинг-агента на Zig от Vercel Labs
Бинарник 6 МБ, старт за 10 микросекунд
- Не привязан к модели или провайдеру, локальный инференс и облачный одинаково
- Расширяется через skills, плагины и MCP
- Интерфейс как Unix-оболочка, а не TUI-IDE: минимум вывода, история прокрутки, без тяжёлых отрисовок
- Эффективный системный промпт и инструменты экономят токены
- Через WebAssembly запускается прямо в браузере на fx.sh/try
- Никакой продуктовой телеметрии, сессии и статистика только локально
- При локальном инференсе + отключённых автообновлениях работает полностью офлайн
- Vercel предупреждает: проект экспериментальный, изменения будут частыми
Гитхаб
#harness #agent #coding
VK | MAX
👍9
Muse V2
Чат-панель с LLM внутри ноды ComfyUI
В V2 добавлен прямой загрузчик GGUF - LM Studio и Ollama больше не обязательны
- Три бэкенда: LM Studio, Ollama, Direct (GGUF) - llama.cpp-сервер в один клик, без сторонних приложений
- Мульти-сессионные чаты с историей, системным промптом, бранчингом (форк с любого сообщения)
- Изображения, видео (Qwen3-VL, сэмплинг кадров с таймстемпами) и аудио (Qwen2.5-Omni, Ultravox) - drag-drop прямо на панель
- Guide Materials: файлы стилей и конвенций из input/ - влияют на каждый ответ
- Координация VRAM: перед чатом выгружает ComfyUI, перед рендером подтверждает, что LLM выгружена
- Edit & resend, кнопки копировать и перегенерировать на каждом сообщении
#comfyui #chat #llm
VK | MAX
Чат-панель с LLM внутри ноды ComfyUI
В V2 добавлен прямой загрузчик GGUF - LM Studio и Ollama больше не обязательны
- Три бэкенда: LM Studio, Ollama, Direct (GGUF) - llama.cpp-сервер в один клик, без сторонних приложений
- Мульти-сессионные чаты с историей, системным промптом, бранчингом (форк с любого сообщения)
- Изображения, видео (Qwen3-VL, сэмплинг кадров с таймстемпами) и аудио (Qwen2.5-Omni, Ultravox) - drag-drop прямо на панель
- Guide Materials: файлы стилей и конвенций из input/ - влияют на каждый ответ
- Координация VRAM: перед чатом выгружает ComfyUI, перед рендером подтверждает, что LLM выгружена
- Edit & resend, кнопки копировать и перегенерировать на каждом сообщении
#comfyui #chat #llm
VK | MAX
🔥10👍3🤝1
Qwen3.8-27B-Cold-Fusion-GAIN-V1.1
Тюн Qwen3.8-27B с фирменным методом Cold Fusion (GAIN + Unsloth). Главная фишка - режет блок рассуждений в 2-10 раз против стока, сохраняя и даже повышая качество
Кванты: MXFP8, MXFP4, GGUF (Q4_K_S и выше), MTP и обычные
#gguf #multimodal
VK | MAX
Тюн Qwen3.8-27B с фирменным методом Cold Fusion (GAIN + Unsloth). Главная фишка - режет блок рассуждений в 2-10 раз против стока, сохраняя и даже повышая качество
Кванты: MXFP8, MXFP4, GGUF (Q4_K_S и выше), MTP и обычные
#gguf #multimodal
VK | MAX
huggingface.co
DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
👍12🤝1
OmniScientist
ИИ-ученый для локального запуска на компе
Скармливаешь папку с данными и направление исследования. Он смотрит материалы, выдвигает гипотезу, пишет и запускает код, читает получившиеся графики и компилирует статью
- Воспринимает все как есть: изображения, сигналы, аудио, видео, 3D-сканы, поинт-клауды, траектории, таблицы, формулы
- Полный цикл: гипотеза → анализ → проверка → статья в PDF с фигурами, таблицами и реальными DOI
- Каждая цифра в черновике связана с исполнением: гейт пропускает статью, только если число реально появилось в stdout какого-то прогона
- Пустые результаты отправляются обратно на идейную доработку
- Три редакции: десктоп, CLI, skill для твоего агента
- Провел 36 реальных исследований, из них 5 полноценных статей
- Windows, macOS, Linux
Гитхаб
#research #agent #autoresearch #scientist
ИИ-ученый для локального запуска на компе
Скармливаешь папку с данными и направление исследования. Он смотрит материалы, выдвигает гипотезу, пишет и запускает код, читает получившиеся графики и компилирует статью
- Воспринимает все как есть: изображения, сигналы, аудио, видео, 3D-сканы, поинт-клауды, траектории, таблицы, формулы
- Полный цикл: гипотеза → анализ → проверка → статья в PDF с фигурами, таблицами и реальными DOI
- Каждая цифра в черновике связана с исполнением: гейт пропускает статью, только если число реально появилось в stdout какого-то прогона
- Пустые результаты отправляются обратно на идейную доработку
- Три редакции: десктоп, CLI, skill для твоего агента
- Провел 36 реальных исследований, из них 5 полноценных статей
- Windows, macOS, Linux
Гитхаб
#research #agent #autoresearch #scientist
👍13😁3🔥2