Needle 3

Модель автоматизации для крошечных устройств. Не для чата, а для вызова функций, извлечения структурированных данных и управления устройствами. Один файл весит 8-29 МБ, работает локально

• вызов функций - выбирает нужный инструмент и заполняет аргументы из речи
• структурированное извлечение - инвойсы, брони, формы в типизированные поля
• текстовые эмбеддинги - поиск, матчинг и маршрутизация на устройстве
• калиброванный скор уверенности в каждом ответе

• до 4000 токенов/сек декодинга на Raspberry Pi 5


После дообучения под свой набор инструментов версии от 4 слоев обходят DeepSeek V4 Flash на DroidCall

Гитхаб
HF

Спасибо @Endorpheen @p0lygon

#automation #mobile #driving

MAX