투자콤 – Telegram

Forwarded from 루팡

[속보] 엔비디아, 삼성파운드리 위탁 추론가속기 양산 돌입…“고객사 이미 확보”

D램 메모리 대신 S램 채택해 AI 답변을 빠르게 받아
저지연 추론 연산자원 확보가 주도권 경쟁에서 열쇠
스페이스XAI도 엔비디아 ‘베라’ 도입, 우주DC에도

삼성전자 파운드리사업부가 생산을 맡은 엔비디아의 추론 전용 칩이 고객을 확보하고 본격 양산 단계에 돌입했다.

엔비디아는 AI 에이전트 구동에 특화해 추론 속도를 높인 ‘그록(Groq)3 LPX’의 양산을 시작했다고 24일(현지시간) 밝혔다.

그록3 LPX는 추론 전용 칩인 언어처리장치(LPU)를 256개 묶어 캐비닛 크기의 랙으로 구성한 시스템이다.

그록 LPU는 엔비디아가 지난해 말 우회 인수를 통해 라이선스를 획득한 칩으로, 일반적인 D램 메모리 대신 S램을 채택해 AI 답변을 빠르게 받을 수 있도록 한 것이 특징이다.

AI 훈련용으로는 다소 부적합하지만, 코딩 등 에이전트 기반 작업은 기존 AI 칩으로 몇 시간이 걸릴 내용을 몇 분 만에 완료할 수 있다.

엔비디아는 기존의 그래픽처리장치(GPU)가 모델 훈련을 포함한 범용 작업을 담당하고, 훈련을 마친 AI가 답변을 도출하는 추론 과정은 속도가 빠른 ‘그록3 LPX’가 맡는 방식의 AI 시스템을 설계했다.

양산에 맞춰 고객사도 유치했다. AI 클라우드 운영업체 네비우스가 그록3 LPX의 첫 고객사라고 엔비디아는 소개했다.

젠슨 황 엔비디아 최고경영자(CEO)는 “추론은 AI의 성장 엔진”이라며 “세계적으로 AI 연산 수요가 가속하는 시점에 맞춰 AI 처리량·효율성·반응성에서 다시 한번 거대한 도약을 가져올 것”이라고 강조했다.

엔비디아는 그록3 LPX를 전량 삼성전자 파운드리(반도체 수탁생산) 사업부를 통해 양산하고 있다.

엔비디아는 ‘베라 루빈’ AI 시스템의 다른 핵심 제품인 에이전트 전용 중앙처리장치(CPU) ‘베라’의 고객사도 확보했다.

엔비디아는 일론 머스크의 AI 기업으로, 스페이스X의 자회사인 스페이스XAI가 베라 CPU를 대규모 도입하기로 했다고 이날 밝혔다.

베라 CPU는 다양한 AI 에이전트를 통솔하는 역할을 도맡는 제품으로, 이를 통해 GPU 등 다른 AI칩이 모델 연산에만 집중할 수 있도록 해준다.

베라 CPU는 기존에 인텔·AMD 등이 생산하는 x86 기반 CPU와 견줘 이 같은 에이전트 작업 처리 속도가 1.8배에 이른다는 게 엔비디아의 설명이다.

특히 스페이스XAI는 이와 같은 AI 시스템을 지상 데이터센터뿐 아니라 우주 궤도상 데이터센터에도 확장할 계획이다.

스페이스XAI는 자사의 1세대 ‘스타마인드’(Starmind) AI 위성에 우주 환경 최적화를 마친 엔비디아 베라 루빈 시스템을 탑재하겠다는 청사진도 제시했다.

다만 엔비디아는 네비우스, 스페이스XAI 등과의 거래 규모와 공급 일정 등은 공개하지 않았다.

이처럼 엔비디아가 그록3 LPX와 베라 CPU의 대형 고객사 확보 소식을 연이어 쏟아내며 시장 수성에 나선 것은 저지연 추론 연산자원을 확보하려는 거대 기술기업의 주도권 다툼이 점점 치열해지고 있기 때문이다.

특히 경쟁사인 AMD가 ‘베라 루빈’ 시스템에 맞서는 랙 시스템 헬리오스를 선보이고, 저지연 칩 스타트업 세레브라스와도 협력하자 견제에 나선 것으로 보인다.

https://n.news.naver.com/mnews/article/029/0003044069?rc=N&ntype=RANKING&sid=104

Naver

[속보] 엔비디아, 삼성파운드리 위탁 추론가속기 양산 돌입…“고객사 이미 확보”

D램 메모리 대신 S램 채택해 AI 답변을 빠르게 받아 저지연 추론 연산자원 확보가 주도권 경쟁에서 열쇠 스페이스X AI도 엔비디아 ‘베라’ 도입, 우주DC에도 삼성전자 파운드리사업부가 생산을 맡은 엔비디아의 추론

1.65K views23:50