⚙️ LiberaGPT: 70-миллиардная модель ИИ работает офлайн на Android

Независимая британская студия 5N6 выпустила приложение LiberaGPT для Android, которое позволяет запускать большие языковые модели полностью на устройстве без подключения к интернету. Ключевая особенность - поддержка модели Llama 3.3 с 70 миллиардами параметров на смартфонах с 24 ГБ оперативной памяти. Это стало возможным благодаря оптимизации архитектуры: после загрузки модели приложение не требует сети для инференса, не собирает телеметрию и не передаёт данные на серверы.

В стартовый набор входят семь моделей: от компактной StableLM Zephyr 1.6B до Qwen3 30B MoE (требует 16 ГБ ОЗУ) и рекордной Llama 3.3 70B. Для работы с последней нужны флагманские чипы Snapdragon 8 Gen 3, Snapdragon 8 Elite, Dimensity 9300 или 9400. При этом базовая модель SmolLM3 3B встроена в приложение и доступна сразу после установки на любом устройстве с Android 12 и выше. Контекстное окно у некоторых моделей достигает 131 072 токенов, что позволяет работать с длинными документами.

LiberaGPT полностью бесплатен: нет подписок, аккаунтов и платного доступа к моделям. Приложение отслеживает температуру устройства и регулирует генерацию для предотвращения перегрева. В следующем месяце на Android появится функция генерации фотореалистичных изображений, которая уже доступна на iOS.

#Ai #Android #Privacy #OfflineAI #LibertaGPT