скоро Алые Паруса...

#humor

DeepSeek-V4-Flash раздают бесплатно на OpenModel до 28 июня

ключ выдают по логину

#giveaway

Есть ли что покруче LoRA?

HF пытаются замотивировать сообщество использовать и другие методы файнтюнинга помимо LoRa

Например OFT обошёл лору по всем фронтам.

* качество генерации выше
* памяти жрёт поменьше
OFT работает не только с генерацией картинок, подойдёт для LLM и говорилок

также упомянуты:
* LoRA-FA - заморозка части весов
* VeRA - метод с общими случайными матрицами и векторами масштабирования, радикально уменьшающий обучаемые параметры
* DoRA - раскладывание весов на «величину» и «направление», превосходит LoRA
* Lily, BEFT, GraLoRA, Cartridges - экзотические методы с разным балансом точности и расхода памяти

PEFT

#finetuning

музей бесполезных метрик

#humor

d‑OPSD

Самодистилляция с опорой на собственное будущее для dLLM

Решает проблему несовместимости классических OPSD‑методов с архитектурой dLLM (диффузных LLM)

• реализует суффиксное условие - обучение на собственных сгенерированных ответах
• переключает контроль с токенов на шаги обучения
• синхронизирует обучение с итеративным шумоподавлением dLLM

• на бенчмарках для рассуждений обходит RLVR и SFT
• сокращает число шагов оптимизации до 10 % от RLVR
• экономит вычислительные ресурсы

Гитхаб

#optimization #llm #dllm

OmniVideo‑7B_Qwen2.5‑Omni

Мультимодальная модель на базе OmniVideo-7B, инициализирована из Qwen2.5‑Omni. Понималка видео в рилтайме с говорилкой

• обрабатывает текст, изображения, аудио и видео
• генерирует текстовые ответы
• озвучивает ответы (несколько типов голоса)
• работает с фрагментарным вводом, поддерживает потоковую обработку

• дообучена на датасете OmniVideo‑100K
• архитектура Thinker‑Talker и метод TMRoPE
• для 60‑секундного видео нужно ~ 60 ГБ VRAM в BF16
• Apache‑2.0

#vlm #realtime #qa

Ладно, грузанул вас в воскресенье, каюсь.
Давайте что-нибудь веселенькое посмотрим.

Зачем роботу язык?

- чтобы знать какие человеки на вкус
- охотишься на человеков - думай лижи как человек
- ваш вариант в комментариях

#robot #humor

В 1930‑х годах советский школьник Вадим Викторович Мацкевич создал радиоуправляемого робота, который позже получил название В2М по инициалам изобретателя.

Робот В2М управлялся дистанционно по радиосигналу и мог выполнять простые движения: шагать, поднимать руки и воспроизводить заранее записанные фразы.

В 1937 году изобретение Мацкевича было представлено на Всемирной выставке в Париже в составе советской экспозиции, что привлекло внимание прессы и общественности

Занятная история

#robot #history

Доброго вечерочка всем!

Вот вы меня часто (никогда) спрашиваете где можно читать мои посты в то время как Телеграм заблокирован?

А я отвечу вам и тем чьи вопросы не проходят фильтры РКН:

читать мои посты можно там:

MAX
ВК
и даже иногда Дзен

В Макс скоро прикрутим комменты. Раньше они были, потом их сломали. Потом разрабы обещали сделать нативные коменты, но им доверия нет

Подходим, подписываемся!

Менеджер изображений с промптами от подписчика @lexxxx999

если кого интересует тема просмотра своих промптов в галерее изображений (которые вшиты в EXIF), а также создания подписей для тренировки лор. У меня обновилась утилита, которой я делюсь в исходниках. Утилита умеет хранить подписи в .txt рядом с картинками, перемещать вместе с ними в другую папку, переименовывать и удалять (вот вручную раньше напрягало постоянно следить за парами файлов), сохранять, переводить с русского (гугл-транслейт) и добавлять текст, использовать LLM для формирования подписей.

https://github.com/a7in/image_caption_utility

#tools

Huihui-gemma-4-12B-coder-fable5-composer2.5-v1-abliterated

Обесцензуренная версия модели gemma-4-12B-coder-fable5-composer2.5-v1. Убраны фильтры безопасности - модель реже отказывается отвечать на запросы.

Сама gemma-4-12B-coder-fable5-composer2.5-v1 дообучена (дистиллирована) на ответах  Composer 2.5 real CoT. И где последний лажал - на ответах Fable 5. С учетом того что Фабл имеет защиту от дистилляции и вообще недоступен - сомнительно конечно, но джентльменам же верят на слово. В любом случае это не "Fable 5 со снятой цензурой" как пишут тупые паблики с миллионом подписчиков
———

qwen3.6-27b-fable5-lora

Лора Qwen 3.6 дообученная на датасете Glint-Research/Fable-5-traces

#lora #agent #uncensored