Технозаметки Малышева
13.2K subscribers
5.59K photos
2.12K videos
43 files
5.52K links
Новости инноваций из мира Искусственного Интеллекта. 🤖 [РКН: 7021469833 ]

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸: https://pay.cloudtips.ru/p/c8960bbb
Download Telegram
NVIDIA выпустила PAIR: домашний роутер инференса объединяет ПК с RTX и Mac на M4 в единый кластер

NVIDIA открыла публичную бету NVIDIA PAIR (Personal AI Router): утилиты, объединяющей домашние компьютеры в кластер для параллельного запуска агентов и локальных моделей.

🔌 Домашний кластер без стоек и проводов:
Раньше распределенный инференс требовал серверных стоек и сложной настройки.
PAIR разворачивается за пару минут поверх сети Wi-Fi или Ethernet, давая приложениям единый локальный эндпоинт.
Поддерживается разнородное железо:
Видеокарты GeForce RTX от 20-й серии на Windows 11 и Linux.
Настольные суперкомпьютеры DGX Spark на архитектуре Grace Blackwell.
Компьютеры Apple Mac на чипах M4 и новее под управлением macOS.

🧠 Диспетчер задач вместо склейки памяти:
NVIDIA честно обозначила архитектуру: PAIR не склеивает видеопамять в один виртуальный чип.
Тензорный параллелизм через домашний Wi-Fi задохнулся бы от сетевых задержек.
Софт работает балансировщиком очередей: пока ПК с RTX занят, запросы агентов улетают на свободный MacBook с M4 или DGX в соседней комнате.
На старте сервис из коробки поддерживает Ollama и LM Studio.

🔒 Полная приватность без облаков:
Главная ценность решения: строгая изоляция данных внутри домашнего контура.
Промпты, файлы и контекст агентов циркулируют строго между машинами домашней сети.
Ни один байт не уходит на чужие серверы, а модели отвечают даже при отключении внешнего интернета.

💼 Зачем бизнесу и разработчикам:
Мультиагентные пайплайны упираются в очередь: когда агенты параллельно пишут код и гоняют тесты, один чип зависает намертво.
PAIR превращает парк домашней техники в распределенную ферму задач без покупки серверного железа и без шаманства настройками fallback вызовов.
Для команд с жестким NDA это доступный способ собрать автономный офис, где ноутбуки коллег бесплатно забирают фоновую рутину.

#pair #nvidia #хостинг #агенты
———
@tsingular | Max | YouTube | RuTube
🔥7✍6❤3⚡1