COPE-VideoLM (Codec Primitives For Efficient Video Language Models)

Microsoft и Stanford создали метод как языковые модели могут понимать видео без обработки каждого кадра. Вместо этого используются более лёгкие для обработки «кирпичики» видео — примитивы кодека, вроде векторов движения и остатков

Время до первого токена (TTFT) сокрщается на 86 %, а использование токенов на 93 % по сравнению со стандартными моделями

Работает с разными типами задач: от ответов на общие вопросы про видео до понимания длинных роликов и следования инструкциям

Это снимает бутылочное горлышко VLM (а может быть и видеогенераторов) — теперь длинные видео должны обрабатываться и отвечать на вопросы о себе ощутимо быстрее и дешевле

База — LLaVA-Video-7B.

Код ждем

#video #llm #optimization

SAGE-RL

трюк, чтобы модель сама понимала, когда ей уже хватит «думать» и пора выдавать ответ, вместо тупого фиксированного числа шагов.

— Авторы показывают, что большие reasoning‑модели и так часто «чувствуют» момент остановки, а SAGE‑RL поверх этого учит политику, которая решает, когда продолжать рассуждения, а когда останавливать цепочку.

— Идея в том, чтобы не гонять CoT до упора: на простых задачах модель может закончить раньше, на сложных — подумать дольше, при этом экономятся токены и время.

Код ждем

#reasoning #llm #cot #research