Forwarded from 가투방(DCTG) 저장소 (카가)
YouTube
GPU만 빠르면 뭐해? ... HBM과 CoWoS가 없어서 못 팔게된 이유 | AI 인프라 5가지 병목
최근 OpenAI의 데이터센터 구축 선언과 SK하이닉스의 HBM 품귀 현상은 이제 AI 인프라 전쟁이 단순한 칩 경쟁을 넘어섰음을 보여줍니다. 많은 분들이 GPU 성능이나 HBM 공급량 같은 개별 이슈에 주목하지만, 사실 AI 기술의 발전 속도를 가로막는 근본적인 원인은 훨씬 복잡한 시스템 아키텍처 속에 숨어 있습니다. 이번 영상에서는 연산 코어의 압도적인 속도를 따라가지 못해 발생하는 데이터 기아 현상부터, 이를 해결하기 위한 HBM이 마주한 물리적…