Unsloth выпустила GGUF-сборки MiniMax-M3.1-Flash, где 2-битная версия сохраняет 91,5% точности полной модели

Unsloth выложила кванты MiniMax-M3.1-Flash: 428 млрд параметров, 23 млрд активных на токен, контекст до 1 млн токенов.
Сборка UD-Q2_K_XL весит всего 144 ГБ, это на 45% меньше 8-битной (259,1 ГБ), и работает на одной машине со 150–160 ГБ памяти при контексте 16K.

🔧 Unsloth Dynamic v3 не задаёт единую битовую глубину сети: точность распределяется по слоям, чувствительные части получают больше битов. UD-Q3_K_XL (194 ГБ) обходит обычный IQ4_XS (около 230 ГБ) по аккуратности полной модели во всех семи категориях и при этом весит меньше.

📊 Средняя доля совпавших токенов по семи категориям: 1 бит при 129,4 ГБ даёт 89,9%, 2 бита 91,5%, 4 бита 98,0% при 249,4 ГБ.
Категории: код, математика, чат, вызовы инструментов, мультиязычность, рассуждения, агентные задачи.
Внутри 2 бит разброс заметный: 88,5% в чате, 95,7% в математике и 91,2% на коде против 97,6% у 4 бит.

⚡️ К сборке приложена черновая голова DSpark на 2,1 ГБ в Q8_0: она предлагает токены, которые основная модель проверяет. В тестах Unsloth это дало около 1,5× на коде и математике.
Для картинок отдельный проектор на 1,74 ГБ

Нужна сборка llama.cpp с поддержкой MiniMax-M3.1.

📎 Руководство Unsloth по запуску · Сборка llama.cpp с MiniMax-M3.1

Unsloth, как Робин-Гуд, продолжает отбирать модели у богатых и раздавать бедным :)

#Unsloth #MiniMax
———
@tsingular

CopilotKit выпустили OpenDuet, четвёртую открытую копию чужого ИИ-сотрудника

27 октября вышел OpenDuet. За два месяца это уже четвёртый шаблон копирующий функционал популярных вендоров: OpenBot в августе, OpenMuse в сентябре, OpenDots в конце сентября.

Код открыт под MIT, разворачивается на своём сервере, агент подключается по AG-UI, модель выбирается любая.

OpenDuet работает как автономный агент, - утром читает Gmail и календарь и присылает сводку: что требует внимания, а что подождёт.
Дальше проверяет подключённые приложения в фоне, пишет в один тред текстом или голосом, доводит задачу после закрытия приложения.
Перед письмом, оплатой счёта или удалением показывает черновик и ждёт решения: разрешить раз, разрешить всегда или отказать.
Пароли не читает, их вводят в маскИрованное поле, которое уходит прямо на сайт.
Ответы на уточнения превращаются в навыки через Automatic Learning.

💼 Ещё их агент за эти месяцы научился: Определять каждому агенту отдельный контейнер с браузером, файлами и оболочкой, а ответы по документам компании отправлять со ссылками на источники.
OpenDots добавляет роли и страницы-пространства, куда складывается результат.
OpenMuse повторяет личного агента Meta*: одна кодовая база для iOS, Android и веба.

Звёзды на GitHub: OpenBot 7 334, OpenDots 6 075, OpenMuse 5 729, OpenDuet 80. Открытые копии работают витриной платного Soar: ключ Intelligence бесплатный, а командное внедрение под брендом заказчика продаётся отдельно.

📎 Код OpenDuet · OpenBot · OpenDots

*Meta - запрещённая в РФ организация, признанная террористической

#CopilotKit #AIAgents #OpenSource
———
@tsingular

готовы? :)

в коммитах DSH засветился deepseek-v5 профиль

#DeepSeek
———
@tsingular

true story

утащил у torshina.lena

#юмор
———
@tsingular

Auto Ontology от NVIDIA,- немного SQL смысла для ИИ агентов

Фреймворк автоматически собирает онтологию данных из метаданных и анализа: вытаскивает схему из Postgres, Databricks, Snowflake или DuckDB, сводит расходящиеся определения метрик и складывает граф в Postgres с pgvector. Агент обращается к нему через MCP, CLI или API 🧾

Смысл в проверяемости. Модель получает не просто список таблиц, а подтвержденные определения, связи и наследуемость, а сгенерированный SQL сверяется с этими определениями.
Фреймворк позволяет избежать ошибок, возникающих в запросах без точного контекста.

Вклад онтологии проверяется парными тестами: один и тот же вопрос получает агент с голой схемой и агент с онтологией, оба прогона оцениваются сравнением результата. Для этого даже не нужен отдельный вызов модели.
В репозитории для этого лежит отдельный набор с BIRD и BEAVER.

По умолчанию внутри инференс идёт через NVIDIA NIM, - Nemotron 3 Nano 30B A3B для запросов, Nemotron 3 Embed 1B для эмбеддингов и Llama Nemotron Rerank VL 1B v2 для переранжирования, но Next.js и FastAPI гибкие, можно настроить под себя. Есть схема разворачивания в Helm в Kubernetes или Docker Compose локально.

💼 Исправления и удачные запросы возвращаются в онтологию, поэтому общий контекст уточняется с каждым вопросом.
Внешние пул-реквесты компания пока не принимает.

📎 Набор для замеров text-to-SQL

#NVIDIA #LLM #OpenSource
———
@tsingular

Вчера я выложил пост про сборник «Будущее искусственного интеллекта», который Академия наук СССР выпустила в 1991 году. А сегодня из него уже вырос сайт с 18 советскими книгами про искусственный интеллект. Это проект Soviet AI: книги 1958–1991 годов, прогнозы учёных и фантастов про компьютеры, ИИ и роботов, вердикт по каждому прогнозу и сканы страниц с цитатами. У 7 книг прогнозы сбылись, у 9 частично и только у 2 не сбылись. Есть и квиз, где можно проверить, угадаете ли вы сами.

Я этот проект не планировал. Мой бот-исследователь собрал материал по 17 книгам, другой бот увидел его и предложил сделать прототип. Проект родился прямо в моменте и в моменте же был реализован.

Всё это благодаря тому, как я настроил свой процесс. Крутые проекты у меня теперь появляются каждый день, просто потому что так устроена работа. Для меня это новый уровень.

Посмотрите обязательно обе ссылки. Сайт проекта — отдельное произведение искусства. А в статье я рассказал, как это сделано: какие боты что делали и на какой инфраструктуре всё держится. По ней видно, что это не разовая удача, а процесс, в котором я сейчас нахожусь.

Сайт проекта: https://lab.pimenov.ai/soviet-ai/

Статья: https://pimenov.ai/articles/soviet-ai-kak-post-prevratilsya-v-proekt/

Google представила Gemini 4 Carbon

Новая флагманская модель заняла первое место в Artificial Analysis Intelligence Index v5.0 с результатом 59 баллов. Основной упор сделали на кибербезопасность, программирование и длительную автономную работу ИИ-агентов.

Результаты бенчмарков:

- SEC-bench Pro - 88,2%: поиск реальных уязвимостей в программном обеспечении.
- ExploitGym - 54,8%: проверка возможности эксплуатации найденных уязвимостей.
- CWE-bench - 71%: автоматическое исправление уязвимого кода.
- WebDev Arena - 1769 Elo: четвёртое место в разработке веб-интерфейсов.

Что ещё интересного:

- Автономная работа несколько дней. Внутри Google модель решала сложные инженерные задачи, находила причины ошибок и исправляла их в больших кодовых базах.
- В 2 раза лучше Gemini 4 Argon генерирует безопасный код по внутренним тестам Google.
- В 10 раз эффективнее другой передовой модели создаёт качественные патчи для Chrome, по оценке команды браузера.
- На 80% меньше серьёзных нарушений инструкций при работе с кодом.
- Вдвое меньше необоснованных утверждений по сравнению с Argon.

Отдельно Google заявляет, что Carbon успешно отразила все проверенные атаки через prompt injection в одном из бенчмарков.

Доступ пока ограничен: сначала модель получат специалисты по кибербезопасности. Массовый релиз состоится позднее.

Стоимость API после запуска составит $2 за миллион входных и $10 за миллион выходных токенов на вводном тарифе.

https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-gemini-4-carbon/

Anthropic поделились sandbox-runtime: песочница для агентов на уровне ОС без контейнеров

Репозиторий anthropics/sandbox-runtime под Apache-2.0 даёт утилите srt ограничить любой процесс по файлам и сети, не поднимая контейнер или виртуальную машину.

Ставится через npm, работает как командная строка и как библиотека для TypeScript; последний релиз v0.0.81 вышел 20 октября.

🧱 На macOS границы задаёт Seatbelt через sandbox-exec, на Linux bubblewrap с сетевыми пространствами имён, на Windows отдельная учётная запись srt-sandbox с фильтром исходящих соединений. Ограничения действуют на всё дерево процессов, включая дочерние.

📁 Запись закрыта по умолчанию: путь нужно явно разрешить, иначе процесс получает EPERM. Чтение открыто, но чувствительные каталоги вроде ~/.ssh вычитаются из разрешённого. Правила несимметричны: allowRead перекрывает denyRead, а denyWrite перекрывает allowWrite.

🌐 Сеть тоже закрыта по умолчанию, наружу пропускает только прокси на хосте: HTTP для HTTP и HTTPS, SOCKS5 для остального TCP. На Linux прокси доступен через Unix-сокет, на macOS через локальный порт.
Ограничения дополняют друг друга: файловое не даёт вынести ключи, сетевое не даёт выйти в обход.

В своей работе Anthropic измерила сокращение запросов подтверждения на 84%. Смысл в том, человек, который сотый раз жмёт «разрешить», перестаёт читать, что именно он разрешает 📉

💼 В Claude Code песочница охватывает только команды оболочки. Встроенные файловые инструменты, MCP-серверы и хуки работают вне неё, поэтому srt применяют к ним отдельной обёрткой. Проект пока в бета-превью, поддержка Windows в альфе, форматы конфигурации могут меняться.

📎 Документация: песочница для Bash в Claude Code
📎 Разбор механизма от Anthropic

#Anthropic #песочница #cybersecurity
———
@tsingular

AI-ROI: учёт ИИ проектов

Если вам тоже надоело считать ROI от ИИ-проектов в эксель-табличках, возможно вам пригодится портал AI-ROI.
Сделал сначала для себя, но подумалось, что вам тоже может быть полезно, поэтому делюсь.

Что он умеет:
- бизнес-кейсы по Forrester TEI: NPV, ROI и окупаемость в трёх сценариях (пессимист/реалист/оптимист)
- жизненный цикл проекта по ГОСТ 34.601: идея → планирование → пилот → разработка → тестирование → внедрение → масштабирование → поддержка, и на каждом гейте — чек-листы «когда пускать дальше» (по практике Anthropic: пороги метрик, cost per outcome, готовность эксплуатации)
- документы и испытания как в ГОСТ: устав проекта и ТЗ с критериями приёмки до старта, протоколы предварительных/опытных/приёмочных испытаний, риски P×I и журнал изменений
- доверие к ИИ по ГОСТ Р 59276: качество данных, наблюдаемость, безопасность - прямо в чек-листах гейтов; классификация ИИ-решений по 59277 (автономность, технология)
- учёт всех затрат попроектно: подписки, GPU, токены по прайслисту, труд
- реестр выгод с дисциплиной: сначала базовая линия, потом подтверждение факта
- выгрузка отчёта в PDF/Excel и возможность ведения нескольких компаний с изолированными данными

Проще говоря: мировые методики (TEI, graduation criteria) обёрнуты в российские нормативы.

Эта версия без интеграций: портал ничего не тянет сам, только ручной ввод или файлы, но к интеграции все готово, - скажите агенту подключить к LiteLLM или иному прокси и учёт расхода ваших токенов будет импортироваться автоматически.

Архив и инструкция для установки на канале ИИзбранное, как и другие полезные материалы и записи обучающих эфиров (1 неделя, - пробная)

Можно просто купить архив и получить скидку на подписку :)

Если попробуете — расскажите, чего не хватает. Буду развивать потихоньку.

#проекты #airoi
———
@tsingular

Когда ИИ научится зарабатывать

Все наверное помнят, как за последний месяц ИИ сделал тысячи открытий в математике? Ещё год назад мало кто верил, что такое возможно.

А теперь представьте, что то же самое произойдёт в экономике.
Если перефразировать мысль Степана Гершуни, очень скоро ИИ изучит практически все доступные способы заработка на динамичном рынке и начнёт находить и эксплуатировать коммерческие возможности в любых нишах быстрее самых опытных коммерсов.

Миллиарды ИИ-агентов будут круглосуточно «майнить бабло», находя и мгновенно закрывая любые рыночные возможности.

И главный парадокс: чем умнее ИИ, тем сложнее будет заработать на его интеллекте.
Потому что те же возможности одновременно увидят миллионы других агентов.

Ещё одна причина купить землю и завести коз.

#деньги #future
———
@tsingular

Китайское сообщество разобрало задним числом механизм блокировки Claude. Вот их открытия

Claude использует систему баллов. При регистрации аккаунт получает начальный балл, затем в зависимости от поведения начисляются или снимаются баллы. Ниже порога — прямая блокировка. Вернуть баллы очень сложно

Факторы, влияющие на баллы:

Регистрация
> Чистый IP — самый важный фактор. Не обязательно домашний широкополосный, но обязательно чистый
> Gmail уже не лучший выбор, есть почтовые сервисы с большим весом
> Аккаунты, которые сразу при регистрации требуют KYC, можно выбрасывать
> Регистрация через мобильное приложение добавляет баллы

Платежи
> Подписка сразу после регистрации снимает баллы
> Прямой переход на Max сильно снимает баллы. Лучше подождать пару дней и сначала взять Pro
> Требование KYC при оплате означает, что аккаунт в периоде наблюдения, но не обязательно заблокируют
> Карты иностранных банков добавляют баллы. Google Play тоже подойдет. Виртуальные карты снимают баллы

Использование
> Не используйте лимит полностью за один раз. Лучше чередовать два аккаунта, чем выжимать один до конца
> Десктопный клиент дает небольшое добавление баллов. Старайтесь реже использовать веб-версию
> Мобильная версия тоже дает небольшое добавление баллов
> Включение функции памяти добавляет баллы. Чем больше файлов памяти, тем выше баллы

IP и устройство
> Стабильность — ключевой фактор. Не прыгайте по IP, старайтесь всегда использовать один и тот же
> Прокси должен быть в глобальном режиме с включенным TUN
> Вход с нескольких устройств сильно снимает баллы. Идеал — один компьютер, один клиент
> Частая смена IP, частые логины, высокая параллельность — все это сильно снимает баллы

Возраст аккаунта
> Старые аккаунты имеют огромный запас прочности. Аккаунты 2023 года явно лучше
> Баллы растут со временем, но очень медленно

Другое
> Windows и macOS без разницы. Linux снимает баллы
> Часовой пояс и язык почти не влияют. Не заблокируют просто из-за пекинского времени
> Сказать Claude, что вы из Китая, — не проблема, память не вызовет блокировку
> Массовое использование Fable снимает баллы
> Обновление до Max с большой вероятностью запускает период наблюдения, если только это не старый аккаунт с высоким весом

Период наблюдения и блокировка
> При приближении к порогу аккаунт может войти в период наблюдения. Типичный признак — сброс логина
> В периоде наблюдения дальнейшее снятие баллов приведет к блокировке
> Аккаунты с высокими баллами могут пережить несколько периодов наблюдения

Вышел Mac Studio в максимальной комплектации.

за модель с 512Gb объединённой памяти и 16Tb хранилкой можно отдать или $29 799 сразу (+ налоги) или 2.483.25 в месяц при рассрочке на 12 месяцев.

Домашний ПК по цене автомобиля. официально.

Короче, все желающие помочь автору канала купить когда-нибудь такой комбайн, - подписываются на ИИзбранное, авось через год накоплю как раз когда эта версия подешевеет :)

#MacStudio
———
@tsingular