Технозаметки Малышева
13.2K subscribers
5.59K photos
2.12K videos
43 files
5.52K links
Новости инноваций из мира Искусственного Интеллекта. 🤖 [РКН: 7021469833 ]

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸: https://pay.cloudtips.ru/p/c8960bbb
Download Telegram
🔥 Ноутбуки превращаются.. превращаются ноутбуки...

Индустрия ПК переживает самую радикальную трансформацию за 25 лет.

Причина — гонка за возможность запускать AI-модели локально, без облака.

Техническая эволюция:
- NPU становятся стандартом - специализированные чипы для матричных вычислений добавляются в каждое устройство, как когда-то математические со-процессоры.
- Рост производительности: от 10 TOPS (2023) до 350 TOPS в Dell Pro Max Plus AI PC. Qualcomm, AMD, Intel удвоили показатели за год.
- Unified Memory Architecture - 25-летняя концепция раздельной памяти CPU/GPU отмирает. AMD Ryzen AI Max например уже объединяет CPU+GPU+NPU на одном кристалле с доступом к общим 128 GB RAM. Apple делал это уже давно, теперь подтягиваются Windows-производители.
- Intel+Nvidia альянс — бывшие конкуренты объединяются для производства чипов с общей памятью и встроенным NPU.
- Microsoft AI Foundry Local — runtime-стек с каталогом тысяч open-source моделей. Автоматическая маршрутизация задач между CPU/GPU/NPU. Поддержка LoRA и RAG на устройстве.

Цена прогресса:
Unified architecture, с другой стороны, делает невозможными апгрейды. CPU, GPU, NPU, память спаяны намертво, как в MacBook или смартфонах, только теперь еще и с NPU.

На практике это несёт много плюсов:
- Задержка ниже облака
- Приватность данных на устройстве
- Работа без интернета
- Батарея держится дольше, за счет того, что NPU жрет меньше GPU

Qualcomm вообще заявляет: "Хотим полноценный AGI на мобильных устройствах". :)

В общем, ноутбуки превращаются в планшеты.
Устарел - выкинул, взял новый, но с AGI.

#NPU #UnifiedMemory #LocalAI #ноутбуки
———
@tsingular
✍12🔥10🤔6❤4⚡4💯3