🤖 Claude отправил в полицию выдуманную наводку по делу об убийстве. Во время тестирования.
Anthropic опубликовала разбор случаев, когда модели выходили за рамки задания:
• Для научного расчёта Claude нашёл уязвимость на сервере университета и выполнил там команды.
• Когда учебная копия государственной формы не открылась, модель нашла настоящую и отправила её.
• Обходила платный доступ к данным через токены публичных веб-сервисов.
• Использовала сокращатели ссылок, чтобы обойти ограничения своего инструмента.
В случае с полицией Claude придумал свидетельство о человеке возле места преступления. Сообщение пометили как спам, до расследования оно не дошло.
Если задачу не удаётся выполнить, модель иногда воспринимает ограничение как препятствие, которое нужно обойти.
По словам Anthropic, последствия этих случаев были минимальными. Компания решила отключить живой интернет во всех внутренних оценках, пока не убедится в надёжности защитных механизмов.
https://www.anthropic.com/research/investigating-unintended-model-actions
@data_analysis_ml
Anthropic опубликовала разбор случаев, когда модели выходили за рамки задания:
• Для научного расчёта Claude нашёл уязвимость на сервере университета и выполнил там команды.
• Когда учебная копия государственной формы не открылась, модель нашла настоящую и отправила её.
• Обходила платный доступ к данным через токены публичных веб-сервисов.
• Использовала сокращатели ссылок, чтобы обойти ограничения своего инструмента.
В случае с полицией Claude придумал свидетельство о человеке возле места преступления. Сообщение пометили как спам, до расследования оно не дошло.
Если задачу не удаётся выполнить, модель иногда воспринимает ограничение как препятствие, которое нужно обойти.
По словам Anthropic, последствия этих случаев были минимальными. Компания решила отключить живой интернет во всех внутренних оценках, пока не убедится в надёжности защитных механизмов.
https://www.anthropic.com/research/investigating-unintended-model-actions
@data_analysis_ml
👏35🔥30❤26🤔26🎉26😁21👍17💯17
🧠 Xiaomi потратила около $2,6 млн на этап обучения MiMo через попытки, ошибки и обратную связь.
В отчёте MiMo-V2.6 команда разбирает, как масштабировать обучение с подкреплением для ИИ-агентов.
Модель решает задачи в рабочих средах, получает оценку результата и обучается на собранном опыте. Масштабируют сразу три компонента:
• количество попыток и пропускную способность;
• разнообразие задач: код, визуальные сценарии, работа с инструментами и кибербезопасность;
• вычисления на проверку решений.
Интересная деталь: проверяющие сравнивают решения внутри группы, помогая поощрять более качественные и короткие пути к результату. Отдельно предусмотрена защита от *reward hacking*, когда модель находит способ получить награду без полноценного решения задачи.
По данным Xiaomi, после этого этапа результат Pro на DeepSWE v1.1 вырос с 58,4% до 72,6%, а Flash с 48,8% до 65,7%. Команда также открыла веса, RL-фреймворк и более 7 000 тренировочных сред.
https://www.chapterpal.com/s/f8dd8d6f/mimo-v26-scaling-reinforcement-learning-towards-self-improvement
В отчёте MiMo-V2.6 команда разбирает, как масштабировать обучение с подкреплением для ИИ-агентов.
Модель решает задачи в рабочих средах, получает оценку результата и обучается на собранном опыте. Масштабируют сразу три компонента:
• количество попыток и пропускную способность;
• разнообразие задач: код, визуальные сценарии, работа с инструментами и кибербезопасность;
• вычисления на проверку решений.
Интересная деталь: проверяющие сравнивают решения внутри группы, помогая поощрять более качественные и короткие пути к результату. Отдельно предусмотрена защита от *reward hacking*, когда модель находит способ получить награду без полноценного решения задачи.
По данным Xiaomi, после этого этапа результат Pro на DeepSWE v1.1 вырос с 58,4% до 72,6%, а Flash с 48,8% до 65,7%. Команда также открыла веса, RL-фреймворк и более 7 000 тренировочных сред.
https://www.chapterpal.com/s/f8dd8d6f/mimo-v26-scaling-reinforcement-learning-towards-self-improvement
🔥33❤28👍27🤔22👏20😁18💯18🎉17
🔐 Проектируйте ИИ-систему так, будто модель уже скомпрометирована.
Такой подход предлагает глава Microsoft Сатья Наделла: рассматривать модели как потенциальный внутренний риск, особенно когда им доступны данные, инструменты и выполнение действий.
Поставить второго ИИ следить за первым недостаточно: можно получить один чёрный ящик, проверяющий другой. Контроль должен существовать и за пределами моделей.
Что это означает на практике:
• Права задаёт система. Модель не определяет сама, какие ресурсы ей доступны.
• Действия оставляют проверяемый след. Логи должны быть защищены от изменения агентом.
• Аудит независим. Агент не должен одновременно действовать и контролировать доказательства корректности своих действий.
• Есть аварийная остановка. Уполномоченный человек может прервать работу посреди задачи.
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения.
https://x.com/satyanadella/status/2108931348857827686
Такой подход предлагает глава Microsoft Сатья Наделла: рассматривать модели как потенциальный внутренний риск, особенно когда им доступны данные, инструменты и выполнение действий.
Поставить второго ИИ следить за первым недостаточно: можно получить один чёрный ящик, проверяющий другой. Контроль должен существовать и за пределами моделей.
Что это означает на практике:
• Права задаёт система. Модель не определяет сама, какие ресурсы ей доступны.
• Действия оставляют проверяемый след. Логи должны быть защищены от изменения агентом.
• Аудит независим. Агент не должен одновременно действовать и контролировать доказательства корректности своих действий.
• Есть аварийная остановка. Уполномоченный человек может прервать работу посреди задачи.
• Тестируются и провалы: атаки, ошибки, пограничные случаи и изменения окружения.
https://x.com/satyanadella/status/2108931348857827686
🔥36👍29👏25😁24❤22🤔22🎉22💯22
🦀 Альтернатива Word на Rust, которой могут управлять ИИ-агенты
WordCraft повторяет знакомый интерфейс Word: лента инструментов, стили, таблицы, комментарии и отслеживание изменений. Читает и сохраняет
Работает на Windows, macOS, Linux и BSD, а через WebAssembly запускается в браузере. Десктопный интерфейс построен на egui, без Electron. Лицензия: MIT или Apache 2.0.
Внутри: 422 команды доступны через интерфейс, CLI и MCP. Агент может менять документ, проверять его структуру, рендерить страницы и сохранять результат. Это даёт возможность автоматизировать работу с документами через явные команды.
Пока альфа: совместимость со сложными
https://github.com/storytold/wordcraft
WordCraft повторяет знакомый интерфейс Word: лента инструментов, стили, таблицы, комментарии и отслеживание изменений. Читает и сохраняет
.docx, экспортирует PDF.Работает на Windows, macOS, Linux и BSD, а через WebAssembly запускается в браузере. Десктопный интерфейс построен на egui, без Electron. Лицензия: MIT или Apache 2.0.
Внутри: 422 команды доступны через интерфейс, CLI и MCP. Агент может менять документ, проверять его структуру, рендерить страницы и сохранять результат. Это даёт возможность автоматизировать работу с документами через явные команды.
Пока альфа: совместимость со сложными
.docx, диаграммами и SmartArt ещё требует доработки. Но для экспериментов с документной автоматизацией проект уже любопытный.https://github.com/storytold/wordcraft
❤45👍31🔥25😁21💯20👏19🎉17🤔14
Anthropic втихую арендует мощности у бывшего биткоин-майнера IREN, а инференс может приносить ей до 85% маржи
По данным The Information, Anthropic подписала многолетний облачный контракт с IREN, о котором раньше не объявляли. Компания начинала с майнинга биткоина и теперь продаёт GPU-мощности под ИИ. В августе IREN раскрыла, что у неё появился безымянный клиент из числа frontier-лабораторий. Теперь известно, что один из таких клиентов это Anthropic.
The Information оценила дата-центр Anthropic в Луизиане на 245 МВт: при полной загрузке под инференс он может давать около $1,3 млрд выручки в месяц.
Аренда чипов обходится примерно в $200 млн в месяц, так что валовая маржа на инференсе выходит около 85%. Расходы на обучение моделей и всё остальное в этот расчёт не входят.
.
Источник: The Information
По данным The Information, Anthropic подписала многолетний облачный контракт с IREN, о котором раньше не объявляли. Компания начинала с майнинга биткоина и теперь продаёт GPU-мощности под ИИ. В августе IREN раскрыла, что у неё появился безымянный клиент из числа frontier-лабораторий. Теперь известно, что один из таких клиентов это Anthropic.
The Information оценила дата-центр Anthropic в Луизиане на 245 МВт: при полной загрузке под инференс он может давать около $1,3 млрд выручки в месяц.
Аренда чипов обходится примерно в $200 млн в месяц, так что валовая маржа на инференсе выходит около 85%. Расходы на обучение моделей и всё остальное в этот расчёт не входят.
.
Источник: The Information
🔥48💯43❤42😁42👍40👏35🤔35🎉34🤣1
⚡ Можно купить тысячи GPU, но дата-центру нужны стабильное питание и подключение к сети. Строительство электростанций, подстанций и линий передачи становится одним из главных ограничений роста.
Китай строит 38 ядерных реакторов общей мощностью около 43 ГВт, по данным World Nuclear Association. Это крупнейшая программа строительства АЭС в мире.
По оценке МЭА, потребление электричества дата-центрами для ИИ выросло на 50% за 2025 год. При этом нехватка сетевых мощностей тормозит подключение новых потребителей.
Следующий этап гонки ИИ будут определять и чипы, и способность быстро обеспечить их энергией. Масштаб китайского строительства даёт стране серьёзное преимущество.
https://x.com/Machinelearrn/status/2109585357226332353
Китай строит 38 ядерных реакторов общей мощностью около 43 ГВт, по данным World Nuclear Association. Это крупнейшая программа строительства АЭС в мире.
По оценке МЭА, потребление электричества дата-центрами для ИИ выросло на 50% за 2025 год. При этом нехватка сетевых мощностей тормозит подключение новых потребителей.
Следующий этап гонки ИИ будут определять и чипы, и способность быстро обеспечить их энергией. Масштаб китайского строительства даёт стране серьёзное преимущество.
https://x.com/Machinelearrn/status/2109585357226332353
👍37🔥30❤26👏22😁22🎉19🤔17💯15
📱 Мультимодальная модель на 35 млрд параметров работает на iPhone. Как?
OpenBMB представила MiniCPM-V 4.7: старшую MoE-модель 35B-A3B и компактную версию 1B для локальной работы с изображениями и видео.
Главная технология: LES, Lookahead Expert Scheduling. Система заранее предсказывает, какие эксперты понадобятся следующему слою, и подгружает их веса, совмещая загрузку с вычислениями.
Прогноз управляет загрузкой, а не ответом модели. Если нужного эксперта не предсказали, его всё равно загружают и используют. Исходная маршрутизация сохраняется.
По замерам команды, оптимизированный запуск даёт 13+ токенов/с на iPhone 17 Pro Max. Помимо LES используются послойная квантизация и спекулятивная генерация DSpark.
Нюанс с «3 ГБ памяти»: это не означает, что все 35 млрд параметров помещаются в RAM. Часть весов остаётся в накопителе и загружается по необходимости.
Ещё добавили сжатие визуальных токенов 4×/16× и Self-Replay Fine-Tuning для адаптации с меньшим забыванием прежних навыков. Старшая модель доступна под Apache 2.0.
https://github.com/OpenBMB/MiniCPM-V
https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B
OpenBMB представила MiniCPM-V 4.7: старшую MoE-модель 35B-A3B и компактную версию 1B для локальной работы с изображениями и видео.
Главная технология: LES, Lookahead Expert Scheduling. Система заранее предсказывает, какие эксперты понадобятся следующему слою, и подгружает их веса, совмещая загрузку с вычислениями.
Прогноз управляет загрузкой, а не ответом модели. Если нужного эксперта не предсказали, его всё равно загружают и используют. Исходная маршрутизация сохраняется.
По замерам команды, оптимизированный запуск даёт 13+ токенов/с на iPhone 17 Pro Max. Помимо LES используются послойная квантизация и спекулятивная генерация DSpark.
Нюанс с «3 ГБ памяти»: это не означает, что все 35 млрд параметров помещаются в RAM. Часть весов остаётся в накопителе и загружается по необходимости.
Ещё добавили сжатие визуальных токенов 4×/16× и Self-Replay Fine-Tuning для адаптации с меньшим забыванием прежних навыков. Старшая модель доступна под Apache 2.0.
https://github.com/OpenBMB/MiniCPM-V
https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B
🔥29❤26👍25😁23💯20🎉15👏14🤔9
🛡 Anthropic усложнила копирование Claude через его ответы
По оценке компании, новая защита сократила объём извлекаемых рассуждений на 90–99% на её платформе.
Такие данные используют для дистилляции: сильная модель решает задачи, а другую обучают на её примерах. Особенно ценны подробные рассуждения, показывающие, как получен ответ.
Что изменили:
• Ограничили перенос рассуждений между аккаунтами и моделями.
• Внедрили двухступенчатый классификатор попыток извлечения.
• Усилили лимиты и блокировки для подозрительных аккаунтов.
Почему это работает? В эксперименте модель, обученная на полных рассуждениях Claude, набрала 80,4% на SWE-bench Verified. На сокращённых версиях результат упал до 71,8%.
Есть и цена для обычных пользователей: некоторым пришлось обновить интеграции, возможны ошибочные блокировки, а за определённые заблокированные запросы теперь тоже взимается плата.
Anthropic признаёт: пока неизвестно, насколько долго защита сохранит эффективность.
https://www.anthropic.com/research/distillation-defenses
По оценке компании, новая защита сократила объём извлекаемых рассуждений на 90–99% на её платформе.
Такие данные используют для дистилляции: сильная модель решает задачи, а другую обучают на её примерах. Особенно ценны подробные рассуждения, показывающие, как получен ответ.
Что изменили:
• Ограничили перенос рассуждений между аккаунтами и моделями.
• Внедрили двухступенчатый классификатор попыток извлечения.
• Усилили лимиты и блокировки для подозрительных аккаунтов.
Почему это работает? В эксперименте модель, обученная на полных рассуждениях Claude, набрала 80,4% на SWE-bench Verified. На сокращённых версиях результат упал до 71,8%.
Есть и цена для обычных пользователей: некоторым пришлось обновить интеграции, возможны ошибочные блокировки, а за определённые заблокированные запросы теперь тоже взимается плата.
Anthropic признаёт: пока неизвестно, насколько долго защита сохранит эффективность.
https://www.anthropic.com/research/distillation-defenses
❤57🔥56👍49💯45😁43🤔41🎉40👏28🥴2😢1🤣1
ИИ-агент отвечает настолько точно, насколько готовы ваши данные. Как понять, что они готовы?
Разберёмся 23 октября в Москве на Fine Day 2026, офлайн-конференции о переходе от self-service BI к AI-native аналитике.
💡 В программе:
• дискуссия с руководителями аналитики ПИК, ДИКСИ, СИБУР и АвтоВАЗ: что нужно данным и командам для работы с ИИ
• миграция с Qlik и Power BI на FineBI, в том числе с помощью ИИ-агентов
• BI-система vs LLM: какие задачи кому отдавать, опыт Мосбиржи
демо FineBI 7.0 и ИИ-агентов Dora, можно принести свой сценарий
Участие бесплатное. После регистрации получите чек-лист «Готовы ли ваши данные к ИИ-агенту?» из 25 вопросов.
👉 Регистрация: https://clck.ru/3WRtdB
Реклама. ООО «ГлоуБайт Аналитические Решения». ИНН 9729274905. erid: 2RanynYbiiP
Разберёмся 23 октября в Москве на Fine Day 2026, офлайн-конференции о переходе от self-service BI к AI-native аналитике.
💡 В программе:
• дискуссия с руководителями аналитики ПИК, ДИКСИ, СИБУР и АвтоВАЗ: что нужно данным и командам для работы с ИИ
• миграция с Qlik и Power BI на FineBI, в том числе с помощью ИИ-агентов
• BI-система vs LLM: какие задачи кому отдавать, опыт Мосбиржи
демо FineBI 7.0 и ИИ-агентов Dora, можно принести свой сценарий
Участие бесплатное. После регистрации получите чек-лист «Готовы ли ваши данные к ИИ-агенту?» из 25 вопросов.
👉 Регистрация: https://clck.ru/3WRtdB
Реклама. ООО «ГлоуБайт Аналитические Решения». ИНН 9729274905. erid: 2RanynYbiiP
🔥27❤24😁20👍18💯16🤔15👏14🎉14🤣2
🚀 Google представила Gemini 4 Argon, свою новую флагманскую ИИ-модель
Главный акцент на сложных задачах, которые требуют длительной работы и многоэтапного планирования.
Три ключевых направления:
▪️ Программирование: разработка, отладка, рефакторинг и работа с большими кодовыми базами.
▪️ Бизнес: автоматизация сложных процессов, финансовые исследования и анализ юридических документов.
▪️ Кибербезопасность: автономный поиск, проверка и исправление уязвимостей.
Модель поддерживает генерацию до 1 млн токенов за один ответ и рассчитана на продолжительные агентные задачи.
Главный акцент на сложных задачах, которые требуют длительной работы и многоэтапного планирования.
Три ключевых направления:
▪️ Программирование: разработка, отладка, рефакторинг и работа с большими кодовыми базами.
▪️ Бизнес: автоматизация сложных процессов, финансовые исследования и анализ юридических документов.
▪️ Кибербезопасность: автономный поиск, проверка и исправление уязвимостей.
Модель поддерживает генерацию до 1 млн токенов за один ответ и рассчитана на продолжительные агентные задачи.
😁40💯30👍24🤔24🎉20❤18🔥17👏15❤🔥2
Indra: OCR-модель всего на 1M параметров, которая рвёт PaddleOCR и Tesseract по скорости
Вик Паручури, автор Marker и Surya, выпустил Indra, крошечную OCR-модель на 1 миллион параметров. Главная фишка в том, что при таком размере она гоняет текст прямо на CPU и делает это очень быстро.
Цифры такие. На CPU Indra обрабатывает 49 страниц в секунду. Это в 11 раз быстрее PaddleOCR и в 17 раз быстрее Tesseract. При этом по качеству она тоже впереди: на тексте из OmniParseBench у неё 41,3 против 35,8 у PaddleOCR и 19,3 у Tesseract.
Модель не только распознаёт текст, но и отдаёт полную разметку страницы и bounding box по строкам, так что её удобно ставить в пайплайны обработки документов.
Миниатюрный размер означает, что её можно запускать локально без GPU и гонять большие объёмы сканов дёшево, а не платить за облачный OCR по страницам.
Модель: https://huggingface.co/datalab-to/indra-ocr
Код: https://github.com/datalab-to/indra
Блог: https://datalab.to/blog/indra-ocr
Вик Паручури, автор Marker и Surya, выпустил Indra, крошечную OCR-модель на 1 миллион параметров. Главная фишка в том, что при таком размере она гоняет текст прямо на CPU и делает это очень быстро.
Цифры такие. На CPU Indra обрабатывает 49 страниц в секунду. Это в 11 раз быстрее PaddleOCR и в 17 раз быстрее Tesseract. При этом по качеству она тоже впереди: на тексте из OmniParseBench у неё 41,3 против 35,8 у PaddleOCR и 19,3 у Tesseract.
Модель не только распознаёт текст, но и отдаёт полную разметку страницы и bounding box по строкам, так что её удобно ставить в пайплайны обработки документов.
Миниатюрный размер означает, что её можно запускать локально без GPU и гонять большие объёмы сканов дёшево, а не платить за облачный OCR по страницам.
Модель: https://huggingface.co/datalab-to/indra-ocr
Код: https://github.com/datalab-to/indra
Блог: https://datalab.to/blog/indra-ocr
🔥53❤32💯31👍28🎉21🤔20👏19😁18
Компания сообщила, что обнаружила в одном из своих офисов сложное записывающее устройство. Разобраться в нём помогли собственные модели: с их помощью удалось понять, что это за устройство и откуда оно взялось, и выяснить, что его за несколько дней до этого подбросил конкретный сотрудник.
Дело передали в ФБР, и агенты с прокурорами быстро произвели арест. Расследование продолжается, компания обещает и дальше содействовать.
Пока нет никаких признаков того, что этот человек получал неправомерный доступ или выгружал веса моделей, исходный код или данные клиентов. Сотрудника уволили.
В компании подчёркивают, что защита технологий, данных и людей для них вопрос национальной важности, а их программа безопасности рассчитана на весь спектр угроз, от инсайдеров до киберпреступников и государств. Этот случай там приводят как пример того, как сам ИИ помогает отражать сложные угрозы безопасности.
https://x.com/Machinelearrn/status/2110114942682608072
Please open Telegram to view this post
VIEW IN TELEGRAM
👍28😁28❤26🤔25🔥24💯24🤣21🎉20👏16
Liquid AI представила LFM2.5-24B-A2B, самую крупную модель в семействе LFM2.5. Это агентная reasoning-модель, рассчитанная на то, чтобы работать локально на ноутбуке или ПК внутри популярных агентных обвязок, без облака и API-ключей.
Характеристики:
24B параметров всего, но только 2B активных на токен за счёт MoE
Контекст расширен до 131K токенов
Словарь на 128K токенов
33T токенов на предобучении
Открытые веса, базовая и пост-тренированная версии, на Hugging Face
На агентных задачах и работе с инструментами LFM2.5-24B-A2B идёт вровень с Qwen3.6-35B-A3B, у которой примерно на 50% больше и общих, и активных параметров.
Модель заточена под эффективный инференс где угодно и с первого дня поддерживает llama.cpp и GGUF, MLX для Apple Silicon, vLLM, SGLang и ONNX. Для примера, на Apple M5 Max она выдаёт 184 токена в секунду, а на одной Nvidia B300 при высокой конкуренции переваливает за 21 тысячу выходных токенов в секунду.
В пост-тренинг входит RL прямо внутри агентных харнессов, включая Hermes Agent от Nous Research и opencode. Модель учится через вызовы инструментов и многошаговые диалоги, а не только на статичных данных. В демо открытый десктопный агент Hermes крутится на LFM2.5-24B-A2B целиком на одном ноутбуке.
Блог: https://liquid.ai/blog/lfm2-5-24b-a2b
Веса: https://huggingface.co/LiquidAI/LFM2.5-24B-A2B
Please open Telegram to view this post
VIEW IN TELEGRAM
👍35🔥29💯26🤔25❤20👏17🎉13😁12🥰1
🖥️ Какой ИИ запускать локально? Подборка под разный объём видеопамяти. Актуалочка на Октябрь 2026.
4–8 ГБ VRAM
Компактные модели LiquidAI LFM2.5, например 2.6B, для локального помощника с небольшими требованиями к ресурсам.
https://huggingface.co/LiquidAI/LFM2.5-2.6B
8–16 ГБ VRAM
Underdog Saluki 27B: сжатая версия Qwen3.8-27B с настройкой под вызов инструментов. Файл весов занимает 7,89 ГБ, но для работы потребуется дополнительная память под контекст и вычисления.
https://huggingface.co/ConwayResearch/Underdog-Saluki-27B-1.0
Для задач выбора действий и автоматизации также стоит посмотреть Clef-Flash от Cloudflare.
https://huggingface.co/Cloudflare/clef-flash
16–32 ГБ VRAM
Qwen3.8-27B в подходящей квантизации. Вариант для кода, работы с изображениями и агентных задач.
https://huggingface.co/Qwen/Qwen3.8-27B
32–96 ГБ VRAM + большой запас RAM
Можно рассматривать Qwen3.8-Flash-Next с частичной выгрузкой весов в оперативную память. Скорость будет зависеть от железа и объёма выгрузки.
https://huggingface.co/Qwen/Qwen3.8-Flash-Next
96–192 ГБ VRAM
Крупные MoE-модели: Qwen3.8-Flash-Next и GLM-5.3-Flash. Нужны подходящая квантизация и расчёт памяти под выбранный контекст.
https://huggingface.co/zai-org/GLM-5.3-Flash
💡 Диапазоны ориентировочные. Размер весов не равен потреблению памяти: контекст, KV-кэш и параллельные запросы тоже занимают место.
4–8 ГБ VRAM
Компактные модели LiquidAI LFM2.5, например 2.6B, для локального помощника с небольшими требованиями к ресурсам.
https://huggingface.co/LiquidAI/LFM2.5-2.6B
8–16 ГБ VRAM
Underdog Saluki 27B: сжатая версия Qwen3.8-27B с настройкой под вызов инструментов. Файл весов занимает 7,89 ГБ, но для работы потребуется дополнительная память под контекст и вычисления.
https://huggingface.co/ConwayResearch/Underdog-Saluki-27B-1.0
Для задач выбора действий и автоматизации также стоит посмотреть Clef-Flash от Cloudflare.
https://huggingface.co/Cloudflare/clef-flash
16–32 ГБ VRAM
Qwen3.8-27B в подходящей квантизации. Вариант для кода, работы с изображениями и агентных задач.
https://huggingface.co/Qwen/Qwen3.8-27B
32–96 ГБ VRAM + большой запас RAM
Можно рассматривать Qwen3.8-Flash-Next с частичной выгрузкой весов в оперативную память. Скорость будет зависеть от железа и объёма выгрузки.
https://huggingface.co/Qwen/Qwen3.8-Flash-Next
96–192 ГБ VRAM
Крупные MoE-модели: Qwen3.8-Flash-Next и GLM-5.3-Flash. Нужны подходящая квантизация и расчёт памяти под выбранный контекст.
https://huggingface.co/zai-org/GLM-5.3-Flash
💡 Диапазоны ориентировочные. Размер весов не равен потреблению памяти: контекст, KV-кэш и параллельные запросы тоже занимают место.
❤33👍31🔥26💯19👏18🤔17😁16🎉16