Forwarded from 프리라이프
[팻 겔싱어는 AI가 반도체 설계를 단축하는 반면 메모리·첨단 패키징·광통신·전력·냉각이 새로운 병목으로 부상하면서 하드웨어 산업이 혁신의 황금기에 진입했다고 진단](https://wallstreetcn.com/articles/3783326)
◦ AI 시대의 핵심 병목은 칩 설계에서 물리적 제조·인프라로 이동
• AI 설계 도구를 활용하면 숙련된 팀이 AI 가속기 논리 설계를 약 3개월 만에 완료할 수 있음.
• 그러나 웨이퍼 제조 약 3개월, 첨단 패키징 약 3개월, 랙 단위 통합까지 설계 이후 실제 사용에 약 9개월 소요.
• 대규모 양산과 소프트웨어 최적화까지 고려하면 최대 1년 반이 걸릴 수 있음.
• AI 설계 속도 향상 → 제조·패키징·시스템 통합이 새로운 병목으로 부상.
• 하드웨어 공급 주기가 길어지는 동안 AI 모델과 워크로드가 변화 → 출시 시점에 칩 설계가 최적화되지 않을 위험.
◦ HBM의 물리적 한계 → 30년 만의 차세대 메모리 혁신 기대
• 겔싱어는 HBM을 현재 이용 가능한 최선이지만 구조적으로 비효율적인 메모리라고 평가.
• 낮은 비트 밀도, 대역폭 제약, 높은 전력 소비와 발열이 핵심 문제.
• 강유전체(Ferroelectric) 등 신소재를 활용한 비커패시터형·고밀도·적층형 메모리의 혁신 가능성을 강조.
• 메모리와 연산 장치를 더욱 밀접하게 통합하는 구조를 선호하며, 관련 비공개 스타트업에도 투자.
• 다만 적층 수가 증가할수록 수율·발열 문제가 심화 → 16~32단보다 2~4단 메모리 적층이 경제적 최적점이 될 것으로 예상.
◦ 광인터커넥트, 2028~2029년 본격적인 전환점 예상
• 구리 기반 연결은 거리와 대역폭이 증가할수록 비용·전력·신호 손실 문제가 심화.
• 겔싱어에 따르면 5m 구리 연결 비용이 100m 광섬유 연결 비용보다 높아지는 상황이 발생.
• Nvidia를 비롯한 업계가 2028~2029년 NPO·CPO(근접·공동 패키징 광학) 도입을 확대할 것으로 전망.
• 연산·메모리 핵심 영역은 가까이 통합하되, 외부 I/O 연결은 광학 기술로 전환하는 구조를 선호.
• AI 트래픽은 대규모이면서 예측 가능 → 기존 패킷 교환보다 OCS(광회로 스위칭) 방식이 적합할 수 있다고 분석.
• 다만 광학 부품의 발열 대응, 패키징 통합, 레이저 공급능력 확보가 과제.
◦ 전력 공급능력이 AI 데이터센터 성장의 상한선
• 겔싱어는 "에너지 공급능력은 경제적 생산능력"이라고 강조.
• 미국의 전력 공급능력은 지난 10~15년간 정체됐으며 최근 증가율도 연간 약 4% 수준이라고 설명.
• 수백만 개 GPU를 확보해도 전력을 공급하지 못하면 데이터센터 가동 불가 → 전력 부족에 따른 프로젝트 계약 불이행 증가 가능성을 경고.
• 핵심 해결책으로 원자력 발전 확대, 전력망 증설, 전력 변환 효율 개선을 제시.
• 특히 800V 직류(DC) 전력 아키텍처, 수직형 GaN, 고체변압기, 액체냉각을 주요 혁신 분야로 지목.
• 전력 변환 단계를 줄이고 냉각 효율을 높이는 기술이 AI 인프라 경쟁력의 핵심 요소로 부상.
◦ 100여 개 AI 가속기 아키텍처, 장기적으로 소수 플랫폼에 수렴 전망
• 현재 약 100종의 AI 추론 가속기가 경쟁하고 있지만 겔싱어는 이러한 파편화가 일시적이라고 판단.
• AI 워크로드 변화: LLM 중심에서 과학·화학·분자 분석 등 HPC와 결합된 영역으로 확대 → 지나친 특화 설계는 적응력이 떨어질 수 있음.
• 자본·규모의 장벽: 대규모 AI 인프라 구축에 수백억달러가 필요 → 수많은 아키텍처를 동시에 유지하기 어려움.
• 생태계 선택: OpenAI·Nvidia·Anthropic 등 주요 기업이 하드웨어·소프트웨어 공동 최적화에 적합한 플랫폼을 선택.
• 결과적으로 다양한 전용 칩 경쟁 → 소수 대형 플랫폼 중심의 통합을 예상.
◦ AI 에이전트 시대, 차세대 'VMware' 인프라 필요
• AI 에이전트가 독립적으로 작업을 수행하면서 기존 가상화·인프라 관리 체계의 재설계가 필요.
• 새로운 플랫폼은 에이전트 실행·보안 설정·성능 관리·작업 이전·자원 추상화를 지원해야 함.
• 동시에 인간이 정책과 안전 원칙을 설정하고 대시보드로 감독할 수 있어야 함.
• 인간과 애플리케이션 중심의 가상화 → AI 에이전트 중심의 인프라 관리로 진화할 것으로 전망.
◦ 핵심 결론: AI 하드웨어 혁신은 반도체를 넘어 시스템 전체로 확산
• 메모리: HBM 한계 극복 → 신소재·차세대 메모리 아키텍처.
• 연결: 구리의 물리적 한계 → 광인터커넥트·CPO·OCS.
• 제조: AI 설계 자동화 → 첨단 패키징·양산 기간 단축.
• 전력·냉각: GPU 전력 밀도 상승 → 800V DC·GaN·액체냉각.
• 소프트웨어 인프라: AI 에이전트 확산 → 새로운 가상화·관리 플랫폼.
• 겔싱어는 이러한 동시다발적 변화가 하드웨어 산업의 새로운 르네상스를 만들고 있다고 평가.
원문 발췌:
- "For all of us in the hardware industry, this is like a Renaissance."
#팻겔싱어 #hw
◦ AI 시대의 핵심 병목은 칩 설계에서 물리적 제조·인프라로 이동
• AI 설계 도구를 활용하면 숙련된 팀이 AI 가속기 논리 설계를 약 3개월 만에 완료할 수 있음.
• 그러나 웨이퍼 제조 약 3개월, 첨단 패키징 약 3개월, 랙 단위 통합까지 설계 이후 실제 사용에 약 9개월 소요.
• 대규모 양산과 소프트웨어 최적화까지 고려하면 최대 1년 반이 걸릴 수 있음.
• AI 설계 속도 향상 → 제조·패키징·시스템 통합이 새로운 병목으로 부상.
• 하드웨어 공급 주기가 길어지는 동안 AI 모델과 워크로드가 변화 → 출시 시점에 칩 설계가 최적화되지 않을 위험.
◦ HBM의 물리적 한계 → 30년 만의 차세대 메모리 혁신 기대
• 겔싱어는 HBM을 현재 이용 가능한 최선이지만 구조적으로 비효율적인 메모리라고 평가.
• 낮은 비트 밀도, 대역폭 제약, 높은 전력 소비와 발열이 핵심 문제.
• 강유전체(Ferroelectric) 등 신소재를 활용한 비커패시터형·고밀도·적층형 메모리의 혁신 가능성을 강조.
• 메모리와 연산 장치를 더욱 밀접하게 통합하는 구조를 선호하며, 관련 비공개 스타트업에도 투자.
• 다만 적층 수가 증가할수록 수율·발열 문제가 심화 → 16~32단보다 2~4단 메모리 적층이 경제적 최적점이 될 것으로 예상.
◦ 광인터커넥트, 2028~2029년 본격적인 전환점 예상
• 구리 기반 연결은 거리와 대역폭이 증가할수록 비용·전력·신호 손실 문제가 심화.
• 겔싱어에 따르면 5m 구리 연결 비용이 100m 광섬유 연결 비용보다 높아지는 상황이 발생.
• Nvidia를 비롯한 업계가 2028~2029년 NPO·CPO(근접·공동 패키징 광학) 도입을 확대할 것으로 전망.
• 연산·메모리 핵심 영역은 가까이 통합하되, 외부 I/O 연결은 광학 기술로 전환하는 구조를 선호.
• AI 트래픽은 대규모이면서 예측 가능 → 기존 패킷 교환보다 OCS(광회로 스위칭) 방식이 적합할 수 있다고 분석.
• 다만 광학 부품의 발열 대응, 패키징 통합, 레이저 공급능력 확보가 과제.
◦ 전력 공급능력이 AI 데이터센터 성장의 상한선
• 겔싱어는 "에너지 공급능력은 경제적 생산능력"이라고 강조.
• 미국의 전력 공급능력은 지난 10~15년간 정체됐으며 최근 증가율도 연간 약 4% 수준이라고 설명.
• 수백만 개 GPU를 확보해도 전력을 공급하지 못하면 데이터센터 가동 불가 → 전력 부족에 따른 프로젝트 계약 불이행 증가 가능성을 경고.
• 핵심 해결책으로 원자력 발전 확대, 전력망 증설, 전력 변환 효율 개선을 제시.
• 특히 800V 직류(DC) 전력 아키텍처, 수직형 GaN, 고체변압기, 액체냉각을 주요 혁신 분야로 지목.
• 전력 변환 단계를 줄이고 냉각 효율을 높이는 기술이 AI 인프라 경쟁력의 핵심 요소로 부상.
◦ 100여 개 AI 가속기 아키텍처, 장기적으로 소수 플랫폼에 수렴 전망
• 현재 약 100종의 AI 추론 가속기가 경쟁하고 있지만 겔싱어는 이러한 파편화가 일시적이라고 판단.
• AI 워크로드 변화: LLM 중심에서 과학·화학·분자 분석 등 HPC와 결합된 영역으로 확대 → 지나친 특화 설계는 적응력이 떨어질 수 있음.
• 자본·규모의 장벽: 대규모 AI 인프라 구축에 수백억달러가 필요 → 수많은 아키텍처를 동시에 유지하기 어려움.
• 생태계 선택: OpenAI·Nvidia·Anthropic 등 주요 기업이 하드웨어·소프트웨어 공동 최적화에 적합한 플랫폼을 선택.
• 결과적으로 다양한 전용 칩 경쟁 → 소수 대형 플랫폼 중심의 통합을 예상.
◦ AI 에이전트 시대, 차세대 'VMware' 인프라 필요
• AI 에이전트가 독립적으로 작업을 수행하면서 기존 가상화·인프라 관리 체계의 재설계가 필요.
• 새로운 플랫폼은 에이전트 실행·보안 설정·성능 관리·작업 이전·자원 추상화를 지원해야 함.
• 동시에 인간이 정책과 안전 원칙을 설정하고 대시보드로 감독할 수 있어야 함.
• 인간과 애플리케이션 중심의 가상화 → AI 에이전트 중심의 인프라 관리로 진화할 것으로 전망.
◦ 핵심 결론: AI 하드웨어 혁신은 반도체를 넘어 시스템 전체로 확산
• 메모리: HBM 한계 극복 → 신소재·차세대 메모리 아키텍처.
• 연결: 구리의 물리적 한계 → 광인터커넥트·CPO·OCS.
• 제조: AI 설계 자동화 → 첨단 패키징·양산 기간 단축.
• 전력·냉각: GPU 전력 밀도 상승 → 800V DC·GaN·액체냉각.
• 소프트웨어 인프라: AI 에이전트 확산 → 새로운 가상화·관리 플랫폼.
• 겔싱어는 이러한 동시다발적 변화가 하드웨어 산업의 새로운 르네상스를 만들고 있다고 평가.
원문 발췌:
- "For all of us in the hardware industry, this is like a Renaissance."
#팻겔싱어 #hw
Wallstreetcn
“芯片大佬”Pat Gelsinger：从存储、光互联、电气到网络架构，当下是硬件创新的黄金时代 - 华尔街见闻
对所有硬件人而言，当下就是“文艺复兴时代”。Pat Gelsinger直言“HBM是极其糟糕的内存”，预判行业即将迎来30年来首次重大存储材料创新。铜向光的迁移将在2028-2029年迎来拐点。警告“能源容量即经济产能”，缺电将引发数据中心建设违约潮。芯片设计已可借助AI工具在三个月内完成，但制造、封装到机架级整合仍需九个月，这一“时间黑洞”是当前最大制约。