Ovis-Embedding
Универсальные эмбеддинг-модели для всего сразу: текст, изображения, документы, видео, аудио и смешанные входы в одном пространстве представлений
• Omni-Embedding-3B - база на Qwen2.5-Omni, any-to-any поиск одним энкодером
• VL-Embedding 2B и 9B - для текста и изображений, документов
• любые задачи ретрива: поиск, RAG, рекомендации, ретрив инструментов для агентов
• сжатие эмбеддингов до 128 измерений для ограниченных деплоев
• эмбеддинг - хидден-стейт последнего токена, без проекционных голов
• выход 2048 измерений, сжимается до 1024/512/256/128
• Apache 2.0
На бенчмарке MMEB-v3 (190 датасетов) обходит сильнейший байзлайн на 5.19 балла во всех модальностях
Гитхаб
HF
#multimodal #embedding
MAX
Универсальные эмбеддинг-модели для всего сразу: текст, изображения, документы, видео, аудио и смешанные входы в одном пространстве представлений
• Omni-Embedding-3B - база на Qwen2.5-Omni, any-to-any поиск одним энкодером
• VL-Embedding 2B и 9B - для текста и изображений, документов
• любые задачи ретрива: поиск, RAG, рекомендации, ретрив инструментов для агентов
• сжатие эмбеддингов до 128 измерений для ограниченных деплоев
• эмбеддинг - хидден-стейт последнего токена, без проекционных голов
• выход 2048 измерений, сжимается до 1024/512/256/128
• Apache 2.0
На бенчмарке MMEB-v3 (190 датасетов) обходит сильнейший байзлайн на 5.19 балла во всех модальностях
Гитхаб
HF
#multimodal #embedding
MAX
👍9
EmbeddingGemma 2
Открытая мультимодальная модель для эмбеддингов от Google
Обходит специализированные модели вдвое больше себя
• Единое эмбеддинг-пространство для текста, кода, изображений, видео и аудио
• Поиск видеоклипа по голосовой заметке, поиск по аудиозаписям
• Работает через transformers, sentence-transformers, llama.cpp, Ollama, vLLM, MLX
• 740М, модульная архитектура
• Text-only — от ~270M, опциональные энкодеры: vision 170M, audio 300M
• Контекст 8K токенов: до 5.5 минут аудио, 29 картинок, 58 видео-кадров
• Сжатие векторов 768 → 128 (MRL) — до 6× экономии хранилища
• На Pixel 11 Pro: ~191 МБ RAM текстовые веса, ~567 МБ полная модель
huggingface.co/google/embeddinggemma-2
huggingface.co/unsloth/embeddinggemma-2-GGUF
#embedding #multimodal #gguf
MAX
Открытая мультимодальная модель для эмбеддингов от Google
Обходит специализированные модели вдвое больше себя
• Единое эмбеддинг-пространство для текста, кода, изображений, видео и аудио
• Поиск видеоклипа по голосовой заметке, поиск по аудиозаписям
• Работает через transformers, sentence-transformers, llama.cpp, Ollama, vLLM, MLX
• 740М, модульная архитектура
• Text-only — от ~270M, опциональные энкодеры: vision 170M, audio 300M
• Контекст 8K токенов: до 5.5 минут аудио, 29 картинок, 58 видео-кадров
• Сжатие векторов 768 → 128 (MRL) — до 6× экономии хранилища
• На Pixel 11 Pro: ~191 МБ RAM текстовые веса, ~567 МБ полная модель
huggingface.co/google/embeddinggemma-2
huggingface.co/unsloth/embeddinggemma-2-GGUF
#embedding #multimodal #gguf
MAX
🔥7👍3