Вышел PyTorch 2.15: быстрее LLM на Blackwell и Apple Silicon, больше контроля над распределённым обучением

В релиз вошли 3117 коммитов от 583 участников.

Что обновили:

- Переписанный NCCL-бэкенд включён по умолчанию. При зависании коллективных операций диагностический «чёрный ящик» сохраняет данные для разбора.
- Новый транспорт NIXL позволяет передавать данные между процессами без создания process group, с поддержкой захвата передач в CUDA Graphs.
- FSDP2 и pipeline parallelism получили более гибкое управление памятью, точностью параметров и перекрытием коммуникаций с вычислениями.
- NVIDIA Blackwell: NVGEMM ускоряет декодирование LLM в формате NVFP4, сокращая отдельные запуски ядер.
- Apple Silicon: добавлены FP8 и публичный API torch.mps.Stream. В приведённых тестах на M3 Ultra пропускная способность MoE-декодирования выросла в 1,32–1,34 раза.
- Платформы: CUDA 13.2 в стандартных сборках, дополнительные сборки с CUDA 13.4 и ROCm 10.0, поддержка torch.compile на Python 3.15.

Перед обновлением: Python 3.10 больше не поддерживается, а для GPU-ускорения через MPS требуется macOS 15+. Часть новых API пока нестабильна.

5 ноября в 22:00 МСК команда проведёт онлайн-сессию вопросов и ответов по релизу. Регистрация - в статье.

https://pytorch.org/blog/pytorch-2-15-release-blog/

OpenAI удвоила лимиты для платных подписчиков. Причём без повышения стоимости.

Компания объявила об увеличении лимитов использования сразу в 2 раза для нескольких тарифов:

- ChatGPT Pro $100
- ChatGPT Pro $200
- ChatGPT Pro $500
- ChatGPT Business Premium

Ещё один приятный бонус: для Pro $200 отменили запланированное снижение лимитов в ChatGPT Work и Codex. Пользователи сохранят прежние условия вместо ожидаемого урезания.

Изменения уже вступили в силу, ничего дополнительно активировать не требуется.

По сути, подписчики получают вдвое больше возможностей для работы с ИИ за те же деньги.

Источник:
https://x.com/thsottiaux/status/2115850175868727621

💥️️️️️️ Tencent открыла Hy-Nomas - модель, которая генерирует мир и позволяет управлять происходящим

Вместо одного запроса на готовый ролик - последовательные команды и управление камерой. Hy-Nomas создаёт продолжение сцены, учитывая текущие инструкции и сохранённую историю.

В основе - диффузионная модель на 8 млрд параметров. Отдельный компонент переводит запрос пользователя и историю взаимодействий в условия для следующего видеофрагмента.

Одна из задач архитектуры - разделять постоянный контекст и временные действия: описание мира сохраняется между фрагментами, а команда действует в предназначенный для неё момент.

Доступны веса модели и Hy-Nomas-Bench: 280 тестовых случаев для проверки текстовых команд, навигации камерой, сочетания обоих способов управления и пространственной памяти.

Команда также опубликовала сравнение с примерами Genie 4. Это демонстрация разработчиков, а не независимый вердикт о превосходстве модели.

Демо: https://hy-nomas.hy.tencent.com/

Модель: https://huggingface.co/tencent/Hy-Nomas

Бенчмарк: https://huggingface.co/datasets/tencent/Hy-Nomas-Bench

Технический отчёт: https://arxiv.org/abs/2610.36729