[리벨리온 박성현 대표의 AI반도체 강의] (요약 by Kaya)

«영상1» 이건 못 참지, 미쿡 물 먹고 온 찐 전문가의 AI반도체 썰 https://youtu.be/mpaFsjyi3OY

① CPU는 스칼라 컴퓨테이션, GPU는 벡터/매트릭스 컴퓨테이션 (GPU는 원래 3D 비디오게임용으로 개발되었는데 그게 마침 인공지능 훈련에도 잘 맞았음)

② NPU는 에너지 효율이 높고, 지연속도(latency)가 낮고, 대역폭(bandwidth)가 높음 (단, 소프트웨어 스택(stack)이 불편함, 몇 가지 특정 알고리즘에만 특화)

③ 현재 NPU 주요 타겟 시장: NPU는 아직 GPU처럼 생태계가 갖춰져 있지 않아 사용이 불편하지만, 레이턴시를 줄이는 것에서 엄청난 차이를 만들어낼 수 있는 곳
ⓐ 주식/파생상품 트레이딩: 0.1^6초 주문을 빨리 내는 것에서 매출의 차이를 만들어낼 수 있는 곳
ⓑ 자율주행: "안전하면 더 빨리 달릴 수 있다"
예1) 도로에 사람들이 100명 이상 쏟아져나오는 엣지케이스 때 자율주행 인풋을 레이턴시 없이 처리할 수 있음
예2) 브레이크를 0.1^6초만에 밟던 걸 0.5*0.1^6초만에 밟을 수 있음

④ 한국 AI반도체 하드웨어 영역에서 경쟁우위 지속될 것:
미국 MIT 130명 학생들 중에 반도체 전공하는 사람 10명 이하, 나머지 모두 소프트웨어(컴퓨터과학) 전공 선택 » 미국 지는 해

«영상2» 미쿡물 먹은 전문가의 AI반도체 2탄, 엔비디아에 드리운 그림자 https://youtu.be/tEFarfD810w

① NPU의 GPU화, GPU의 NPU화
② 2021년 AI가 매출을 발생시킨 원년
예) 구글 딥마인드, 루닛, 크래프트, 테슬라
③ 테슬라 마케팅전략: 섹시 브랜드 → 볼륨 업
예) 로드스터 → 모델S → 모델3

#반도체 #NPU

토종 AI반도체 스타트업 리벨리온에 대한 정보 요약드립니다. 사피온 합병 건도 이슈지만 회사의 기술 흐름을 보는 것도 정말 흥미롭습니다.

- '리벨'은 전작 '아톰'에 이은 회사의 AI 데이터센터 향 NPU 칩입니다.
-삼성 12단 HBM3E 4개를 결합한 144GB 용량의 칩입니다. 엔비디아 블랙웰은 8단 HBM3E 8개를 붙인 192GB.
-경쟁사 그로크는 D램을 안쓰고 S램만 씁니다. 그로크보다 전력효율이 4배 더 좋다는 게 리벨리온 주장입니다.
-삼성 파운드리 4나노와 패키징 라인을 활용합니다.
-기존에는 1개 HBM만 활용한 '싱글'을 먼저 양산하려다가, 4개 붙인 '쿼드' 제품을 1년 앞당겨 생산합니다. 기술에 대한 자신감과 전작 아톰의 맹활약 때문입니다.
-칩 뿐 아니라 랙 단위의 '플랫폼' 구현이 목표. 리벨리온 자체 솔루션인 RSD 개발에 심혈을 기울이고 있습니다. 엔비디아로 따지면 '쿠다' 생태계입니다.

#리벨리온 #NPU #4나노 #삼성전자 #HBM #HBM3E

https://naver.me/5D83u22t