Перспективы масштабирования ИИ до 2030 года
Интересное детальное исследование по росту вычислительной мощности ИИ
Прогнозируют до 2^29 FLOP к 2030 году, что в 10тыс раз мощнее нынешних GPT4.
Главные препятствия: энергопотребление, производство чипов (понадобится 20-400 млн аналогов H100 GPU), наличие данных (нужно от 400Т до 20Q токенов для обучения и синтетика) и задержки в передаче данных на сетевом уровен между GPU (нужна оптимизация или новая топология, батчи).
Ожидается увеличение мощности дата-центров до 90 ГВт в США.
Технологические гиганты уже планируют инвестиции до $100 млрд в развитие ИИ-инфраструктуры и темпы роста буду ускоряться до 4x в год до конца десятилетия.
Похоже, скоро нам понадобится новая планета для дата-центров. Не зря Маск на Марс целится. 🚀🖥️
#AIscaling #DataCenters #ChipProduction
-------
@tsingular
Интересное детальное исследование по росту вычислительной мощности ИИ
Прогнозируют до 2^29 FLOP к 2030 году, что в 10тыс раз мощнее нынешних GPT4.
Главные препятствия: энергопотребление, производство чипов (понадобится 20-400 млн аналогов H100 GPU), наличие данных (нужно от 400Т до 20Q токенов для обучения и синтетика) и задержки в передаче данных на сетевом уровен между GPU (нужна оптимизация или новая топология, батчи).
Ожидается увеличение мощности дата-центров до 90 ГВт в США.
Технологические гиганты уже планируют инвестиции до $100 млрд в развитие ИИ-инфраструктуры и темпы роста буду ускоряться до 4x в год до конца десятилетия.
Похоже, скоро нам понадобится новая планета для дата-центров. Не зря Маск на Марс целится. 🚀🖥️
#AIscaling #DataCenters #ChipProduction
-------
@tsingular
👍3
Китай вкладывает миллиарды в национальные дата-центры
Китай инвестировал $6,1 млрд в проект 'Восточные данные на Запад'. (имеется ввиду восток и запад Китая)
Цель: создание 8 вычислительных центров и 10 кластеров дата-центров к 2025 году.
Задача: перенос ресурсов от побережья в западные регионы.
Ожидаемые результаты: до 1,95 млн увеличится количество стоек (сейчас ~1.4 млн), постоянная нагрузка ~63%, задержка по сети с востоком Китая ~20 мс, эффективность использования электричества - 1,04.
Планируется увеличение вычислительной мощности на 50% к 2025 году.
Датацентры подальше от океана. Ясно-понятно.
А картинка от другой новости, но в близкую тему:
Китай вкладывает в развитие микроэлектроники примерно столько же, сколько все остальные страны вместе взятые.
#Китай #DataCenters #Chips
-------
@tsingular
Китай инвестировал $6,1 млрд в проект 'Восточные данные на Запад'. (имеется ввиду восток и запад Китая)
Цель: создание 8 вычислительных центров и 10 кластеров дата-центров к 2025 году.
Задача: перенос ресурсов от побережья в западные регионы.
Ожидаемые результаты: до 1,95 млн увеличится количество стоек (сейчас ~1.4 млн), постоянная нагрузка ~63%, задержка по сети с востоком Китая ~20 мс, эффективность использования электричества - 1,04.
Планируется увеличение вычислительной мощности на 50% к 2025 году.
Датацентры подальше от океана. Ясно-понятно.
А картинка от другой новости, но в близкую тему:
Китай вкладывает в развитие микроэлектроники примерно столько же, сколько все остальные страны вместе взятые.
#Китай #DataCenters #Chips
-------
@tsingular
🤔4😐2
Эрик Шмидт: к чёрту климатическую повестку, - ИИ разберётся
Бывший CEO Google заявил, что приоритет следует отдать развитию ИИ, а не борьбе с изменением климата.
Бум ИИ увеличил энергопотребление дата-центров.
Прогнозируется, что к 2030 году они будут потреблять 35 гигаватт ежегодно!!!
Шмидт при этом полагает, что рост потребления энергии на ИИ превзойдет все экологические ограничения, и цели по защите климата не будут достигнуты из-за отсутствия координации.
Он предпочитает делать ставку на то, что ИИ сам решит проблему в будущем, вместо ограничения его развития сейчас через снижение энергопотребления.
АХхаха. Pedal to the metal! :) гонка энергетиков началась!
#EricSchmidt #datacenters #energy
-------
@tsingular
Бывший CEO Google заявил, что приоритет следует отдать развитию ИИ, а не борьбе с изменением климата.
Бум ИИ увеличил энергопотребление дата-центров.
Прогнозируется, что к 2030 году они будут потреблять 35 гигаватт ежегодно!!!
Шмидт при этом полагает, что рост потребления энергии на ИИ превзойдет все экологические ограничения, и цели по защите климата не будут достигнуты из-за отсутствия координации.
Он предпочитает делать ставку на то, что ИИ сам решит проблему в будущем, вместо ограничения его развития сейчас через снижение энергопотребления.
АХхаха. Pedal to the metal! :) гонка энергетиков началась!
#EricSchmidt #datacenters #energy
-------
@tsingular
🤨7🗿2👾2😁1
Meta* заключила 20-летний контракт с атомной станцией в Иллинойсе под питание ИИ
Meta подписала соглашение с энергокомпанией Constellation на поддержку работы ядерного реактора в Иллинойсе в течение 20 лет. Это первый контракт соцсети с атомной электростанцией.
Сделка позволит расширить мощности станции Clinton Clean Energy Center на 30 МВт с текущих 1121. Станция способна обеспечить электричеством около 800 тысяч домов.
Крупные техкомпании активно ищут источники энергии из-за растущих потребностей ИИ и дата-центров. Google и Microsoft уже заключили похожие атомные сделки.
30MW не выглядит чем-то крупным, но компания ведет переговоры и с другими поставщиками электричества в стране.
Короче, у кого розетка, - тот и умнее в итоге будет.
*Meta,- запрещенная в РФ организация
#NuclearPower #DataCenters
———
@tsingular
Meta подписала соглашение с энергокомпанией Constellation на поддержку работы ядерного реактора в Иллинойсе в течение 20 лет. Это первый контракт соцсети с атомной электростанцией.
Сделка позволит расширить мощности станции Clinton Clean Energy Center на 30 МВт с текущих 1121. Станция способна обеспечить электричеством около 800 тысяч домов.
Крупные техкомпании активно ищут источники энергии из-за растущих потребностей ИИ и дата-центров. Google и Microsoft уже заключили похожие атомные сделки.
30MW не выглядит чем-то крупным, но компания ведет переговоры и с другими поставщиками электричества в стране.
Короче, у кого розетка, - тот и умнее в итоге будет.
*Meta,- запрещенная в РФ организация
#NuclearPower #DataCenters
———
@tsingular
⚡6❤2👍1
Arm AGI CPU: Первая в истории попытка Arm съесть рынок x86 через «агентский путь»
Arm Holdings впервые за 30 лет вышла за пределы лицензирования IP и представила собственный готовый кремний — Arm AGI CPU.
Процессор оптимизирован для инференса и запуска автономных ИИ-агентов в дата-центрах.
⚙️ Технические параметры:
• Плотность: 136 ядер Neoverse V3 на один чип.
• Производительность: В 2 раза выше на стойку по сравнению с x86-решениями Intel и AMD при сопоставимом энергопотреблении.
• Эффективность: 300W TDP, до 8 160 ядер на стойку при воздушном охлаждении и 45 000+ при жидкостном. Пакуются в 1U блейды.
Альянс с Meta*: Марк Цукерберг стал со-разработчиком. Meta интегрирует чипы со своими ускорителями MTIA для создания «агентских фабрик». В списке партнеров так же значатся OpenAI, Google, Microsoft и NVIDIA.
💼 Зачем бизнесу: Переход от обучения моделей к массовому запуску требует мощностей CPU для управления потоками данных. Arm обещает экономию до $10 млрд CAPEX на каждый гигаватт дата-центра. Это вызов доминированию x86.
🔮 Перспектива: Arm из чертёжного бюро превращается в вендора процессоров и забирает под контроль весь спектр, - от архитектуры до готового чипа.
*Meta - запрещённая в РФ организация, признанная террористической
#Arm #AGI #CPU #Datacenters
───
@tsingular
Arm Holdings впервые за 30 лет вышла за пределы лицензирования IP и представила собственный готовый кремний — Arm AGI CPU.
Процессор оптимизирован для инференса и запуска автономных ИИ-агентов в дата-центрах.
⚙️ Технические параметры:
• Плотность: 136 ядер Neoverse V3 на один чип.
• Производительность: В 2 раза выше на стойку по сравнению с x86-решениями Intel и AMD при сопоставимом энергопотреблении.
• Эффективность: 300W TDP, до 8 160 ядер на стойку при воздушном охлаждении и 45 000+ при жидкостном. Пакуются в 1U блейды.
Альянс с Meta*: Марк Цукерберг стал со-разработчиком. Meta интегрирует чипы со своими ускорителями MTIA для создания «агентских фабрик». В списке партнеров так же значатся OpenAI, Google, Microsoft и NVIDIA.
💼 Зачем бизнесу: Переход от обучения моделей к массовому запуску требует мощностей CPU для управления потоками данных. Arm обещает экономию до $10 млрд CAPEX на каждый гигаватт дата-центра. Это вызов доминированию x86.
🔮 Перспектива: Arm из чертёжного бюро превращается в вендора процессоров и забирает под контроль весь спектр, - от архитектуры до готового чипа.
*Meta - запрещённая в РФ организация, признанная террористической
#Arm #AGI #CPU #Datacenters
───
@tsingular
✍6⚡4👍3❤2