Энкодер GLiNER2.5-Decide на 340M параметров обошел 4B декодеры в классификации

Fastino Labs, получившая $25 млн от Khosla и Microsoft, тренируют модели на игровых GPU TechCrunch, выкатали открытую GLiNER2.5-Decide: 340M параметров, энкодер, Apache 2.0.
Принцип как у Jev, - на входе текст и схема вопросов, на выходе решения с вероятностями.
Автор GLiNER Уршад Заратиана( GitHub)

⚙️ Технические детали:
Энкодер читает текст и схему одновременно, а ограниченный декодер ищет лучшую комбинацию ответов по заявленным правилам.
Бенч Fast Decisions: 5100 примеров на 17 незнакомых датасетах.
Средний балл 60.1%, победы в 9 датасетах из 17.
Для сравнения, - модели на декодерах Qwen3.5-4B, в 12 раз крупнее дали худший результат: JevK5 получила 57.5% и SemIf 56.4%.
На саппорт-интентах 75.3%, на 18.6 пункта впереди.
По скорости 38.3 мс на V100 и 167 мс на серверном CPU.

💼 В чём польза для бизнеса:
Сценарий быстрых классификаций получает всё более широкое применение.
Моделей по типу TypeSafe Jev, Laya от Convai уже сотни, теперь вот к ним добавился Gliner от Fastino.
Такие модели детерминированы, стоят копейки и могу работать в закрытом контуре без интернета.

Модель качаем тут: https://huggingface.co/fastino/GLiNER2.5-Decide

#GLiNER #Fastino #агенты #opensource
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен