Перспективы масштабирования ИИ до 2030 года
Интересное детальное исследование по росту вычислительной мощности ИИ
Прогнозируют до 2^29 FLOP к 2030 году, что в 10тыс раз мощнее нынешних GPT4.
Главные препятствия: энергопотребление, производство чипов (понадобится 20-400 млн аналогов H100 GPU), наличие данных (нужно от 400Т до 20Q токенов для обучения и синтетика) и задержки в передаче данных на сетевом уровен между GPU (нужна оптимизация или новая топология, батчи).
Ожидается увеличение мощности дата-центров до 90 ГВт в США.
Технологические гиганты уже планируют инвестиции до $100 млрд в развитие ИИ-инфраструктуры и темпы роста буду ускоряться до 4x в год до конца десятилетия.
Похоже, скоро нам понадобится новая планета для дата-центров. Не зря Маск на Марс целится. 🚀🖥️
#AIscaling #DataCenters #ChipProduction
-------
@tsingular
Интересное детальное исследование по росту вычислительной мощности ИИ
Прогнозируют до 2^29 FLOP к 2030 году, что в 10тыс раз мощнее нынешних GPT4.
Главные препятствия: энергопотребление, производство чипов (понадобится 20-400 млн аналогов H100 GPU), наличие данных (нужно от 400Т до 20Q токенов для обучения и синтетика) и задержки в передаче данных на сетевом уровен между GPU (нужна оптимизация или новая топология, батчи).
Ожидается увеличение мощности дата-центров до 90 ГВт в США.
Технологические гиганты уже планируют инвестиции до $100 млрд в развитие ИИ-инфраструктуры и темпы роста буду ускоряться до 4x в год до конца десятилетия.
Похоже, скоро нам понадобится новая планета для дата-центров. Не зря Маск на Марс целится. 🚀🖥️
#AIscaling #DataCenters #ChipProduction
-------
@tsingular
👍3