Компания TypeSafe AI выпустила Jev - первый пример нового класса моделей, который она называет System One (в сообществе прижилось имя «decision models», или модели решений).
Jev принимает текст или полуструктурированные данные, но вместо генерации текста возвращает числа. Вход - объект «state»: строка, массив строк или набор пар имя-значение. Далее задаются вопросы трёх типов: yes/no (Noul, от распределения Бернулли) - вероятность от 0 до 1; choice - выбор одного варианта из списка с распределением вероятностей; score - оценка по заданной числовой шкале. Вопросы обрабатываются параллельно, поэтому сотня вопросов занимает почти столько же времени, что и один.
Главное - цена и скорость. Оплачивается только вход: $0.042 за миллион токенов, выход бесплатный. Это дешевле GPT-5 Nano ($0.05). Практическая ниша - всё, что сводится к классификации: спам-фильтры, авторазметка, приоритизация и ранжирование. Автор обзора экспериментировал с переранжированием поиска: 100 кандидатов от BM25, затем оценка релевантности через Jev.
Обратная сторона - полный «чёрный ящик»: объяснений нет, только число, поэтому риски скрытого bias высоки. Отсюда особая важность evals - благо тысячи тестовых прогонов стоят копейки. Сообщество уже собрало jevchat, jev-2048 и открытые реплики вроде Kev на Qwen 3.5.
#Tech #AI #LLM #Jev #TypeSafeAI #Models #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1👌1