Largan, CPO 턴키 구축 및 엔비디아 '루빈 울트라' 공급 전망

대만 광학 렌즈 선두 기업 Largan이 CPO(공동 패키징 광학) 핵심 부품에서 다운스트림인 광섬유 어레이 모듈(FAU)까지 아우르는 수직 계열화를 완성하며, 엔비디아의 간접 공급사에서 직접 공급사로 전환되었습니다.


공급망 진입 및 양산 전망
공급망 합류: Largan은 대만 상전(FOCI), 중국 텐푸통신(TFC)과 함께 엔비디아 FAU 공급망에 진입했습니다.
적용 플랫폼 및 일정: 이르면 내년 하반기 양산을 시작해 엔비디아의 차세대 루빈 울트라(Rubin Ultra) 플랫폼에 공급될 것으로 관측됩니다.
TSMC 생태계 편입: TSMC의 실리콘 포토닉스 플랫폼인 COUPE 공정 생태계에 FAU 공급사로 합류했습니다.


시장 배경 및 수요 폭증
CPO 전환 가속: AI 데이터센터의 전력 및 대역폭 병목으로 기존 플러그형 광모듈 대신 CPO 채택이 필수화되고 있습니다.

공급 부족: 엔비디아 '스펙트럼-X(Spectrum-X)' 양산 확대로 올해 60만~70만 개의 FAU가 필요하며, 2027년에는 수백만 개로 급증할 전망이나 현재 공급망 생산 능력이 이를 따라가지 못하고 있습니다.


https://money.udn.com/money/story/11162/9709528?from=edn_maintab_cate

이트론 테크놀로지 회장 루차오췬: 메모리 호황기 2028~2030년까지 연장

AI 수요 폭발에 따라 메모리 산업이 구조적 전환을 맞이하고 있습니다. 루차오췬 이트론 테크놀로지 회장은 글로벌 반도체 생산 규모가 2026년에 조기 달성되어 1조 5,000억 달러에 이를 것으로 예상되며, AI와 에지 컴퓨팅 등 신흥 응용 분야에서 비탄력적 실수요가 본격화되면서 메모리 경기 호황이 2027년 이후로 더욱 연장될 것이라고 밝혔습니다.

이어 업계 공급 부족 현상이 2028년, 길게는 2030년까지 이어질 것으로 전망했다

https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?CnlID=1&id=0000765893_1EP7NC27LS4DPA2XFETP6

첫 '베라 루빈(Vera Rubin)' 설치 개시! 폭스콘 수혜

1. 베라 루빈 배치 시작 및 마이크로소프트의 도입

엔비디아와 마이크로소프트는 차세대 AI 서버인 '베라 루빈(Vera Rubin)' 플랫폼의 설치 작업을 공식 시작했다고 밝혔습니다.
마이크로소프트는 전 세계 클라우드 서비스 제공업체(CSP) 중 최초로 대규모 데이터센터에 베라 루빈을 배치한 기업이 되었습니다.

MS는 신규 '페어워터(Fairwater) AI 슈퍼팩토리'를 포함한 차세대 AI 데이터센터에 베라 루빈 NVL72 랙 시스템을 구축하여 애저(Azure) 클라우드 AI 서비스 연산력을 공급하고, OpenAI의 모델 훈련 및 대규모 추론 워크로드를 지원할 계획입니다.


2. '베라 루빈'의 기술적 특징 및 아키텍처
역대 최대 POD 시스템: 베라 루빈은 5개의 전용 랙으로 구성된 거대 시스템입니다.

7종의 전용 칩 탑재 ('익스트림 코디자인' 아키텍처):
루빈(Rubin) GPU
베라(Vera) CPU
NVLink 6 스위치
ConnectX-9 SuperNIC
BlueField-4 DPU
Spectrum-6 이더넷 스위치
그록 3(Groq 3) LPU

공급망 규모 2배 확대: 지난 5월 양산 발표 이후 공급망 규모는 그레이스 블랙웰(GB)의 2배에 달하는 350개 공장으로 확대되었으며, 대만에서만 150개 이상의 파트너사가 참여하고 있습니다. (델, HPE, 레노버, 슈퍼마이크로, 에이수스, 기가바이트, 페가트론, QCT, 위스트론 등이 NVIDIA DSX 플랫폼을 채택)


3. 폭스콘의 실적 전망 및 시장 타임라인
출하 일정: 폭스콘은 베라 루빈 랙의 3분기 양산, 4분기 출하 일정을 변함없이 추진 중이며, 내년에는 주력 매출원이 될 것으로 기대하고 있습니다.

실적 성장세: 기존 그레이스 블랙웰(GB) 시리즈의 수요도 최소 내년까지 지속될 것으로 보이며, 폭스콘의 AI 랙 전체 출하량은 3분기에 전분기 대비 두 자릿수 후반(High Double-digit) 성장, 연간 기준으로는 전년 대비 2배 이상의 고성장을 기록할 전망입니다.

인프라 세대교체: 마이크로소프트의 대규모 배치를 기점으로 2026년 하반기~2027년이 AI 인프라가 블랙웰에서 루빈으로 세대교체되는 핵심 분기점이 될 것입니다.

https://www.ctee.com.tw/news/20260824700056-430502

마이크론- Hot Chips 2026

메모리 벽 (Memory Wall)

메모리 기술이 AI 시스템의 성능을 제한하는 핵심 요인(병목 현상)으로 작용하고 있습니다.

1. 연산 성능과 메모리 대역폭의 격차

연산 성능 (TFLOPS): 2년마다 약 3배(3x/2yr)씩 급격하게 증가 (TPU v3~v5, A100, H100, MI300X, B100, B200 등)

메모리 대역폭 (HBM BW): 2년마다 2배 미만(<2x/2yr) 성장에 그침

결과: 연산 처리 속도에 비해 데이터 전송 속도(대역폭)의 발전이 뒤처지면서 심각한 '메모리 벽' 현상이 심화됨


2. 병목 해결을 위한 메모리 아키텍처 진화

2.5D 부착형 메모리 (2.5D attached memory): 연산 장치(Compute)와 메모리를 2.5D 기판 위에 나란히 배치하여 연결하는 기본 구조

2.5D 고급 메모리 (2.5D advanced memory): 연산부와 메모리 간의 물리적·구조적 거리를 더욱 좁혀 대역폭과 전력 효율을 개선한 구조

지능형 메모리 (Processing in Memory, PIM): 메모리 내부에 연산 기능을 직접 통합하여 데이터 이동 자체를 최소화하는 차세대 구조

https://x.com/DrNHJ/status/2091675792094949394?s=20

마이크론- Hot Chips 2026

AI 연산 능력이 2년마다 약 3배 성장하는 반면 고대역폭 메모리(HBM) 대역폭 성장은 2배 미만에 그쳐, 연산 속도가 메모리 전송 속도를 앞지르는 '메모리 월(Memory Wall)' 병목 현상이 심화


핵심 발표 내용 (Hot Chips 2026)
연산과 메모리 간의 격차: AI 모델이 커질수록 메모리 병목 현상이 심화되며, 연산 성장 속도(~3배/2년)가 HBM 대역폭 성장(~2배 미만/2년)을 넘어서고 있습니다.

실리콘 면적 비중: 12단 HBM 스택 4개를 탑재한 일반적인 GPU SiP(System-in-Package)에서 메모리 실리콘이 전체 실리콘 면적의 약 90%를 차지(GPU 실리콘 면적의 약 8배)합니다.

학습 안정성 문제: 메타(Meta)의 Llama 3 훈련 논문에 따르면 예기치 않은 전체 훈련 중단 원인 중 17%가 HBM 결함에서 발생했습니다.

적층 한계: 스택 높이가 4단에서 16단까지 증가했으며 20단 적층 경로도 연구 중이나, 심각한 열적·기계적 한계에 직면해 있습니다.


차세대 HBM4 규격 및 아키텍처
성능 스펙: 마이크론의 HBM4는 최대 2,800 GB/s의 대역폭을 지원하며, HBM3E 대비 2배 늘어난 I/O(2K I/O)와 2배의 채널 수를 제공합니다.
구조적 구성: 독립 채널을 가진 D램 다이를 적층하고 3D TSV(실리콘 관통 전극)를 통해 하단 베이스 다이(Base Die)와 연결됩니다. 베이스 다이는 마이크로범프와 인터포저를 거쳐 GPU 호스트와 초고밀도로 연결됩니다.

HBM과 기존 DDR5 메모리 비교
대역폭: HBM은 일반 GPU 구성 기준 약 5.3 TB/s로, DDR5(약 300 GB/s) 대비 약 15~17배 높습니다.
다이당 대역폭: HBM3E 기준 다이당 약 256 GB/s를 기록해 DDR5(약 8 GB/s)보다 32배 빠릅니다.
병렬 처리(뱅크 수): 다이당 뱅크 수가 DDR5는 32개인 반면, HBM은 128개(HBM3E)에서 256개(HBM4)로 대규모 병렬 처리에 유리합니다.
에너지 효율: 순차적 AI 데이터 접근 시 비트당 전력 소모(pJ/bit)가 HBM이 훨씬 낮아 높은 전력 효율을 보입니다.
용량 및 배치: DDR5는 대용량 확장이 유리하지만 물리적 면적을 많이 차지하는 반면, HBM은 용량은 상대적으로 작지만 GPU 바로 옆에 배치되어 테라바이트급 초고속 전송을 구현합니다.


발열 제어 및 차세대 패키징 솔루션
전력 밀도 문제: 고성능 기능이 집약된 베이스 다이와 적층 수 증가로 인해 전력 밀도 및 발열 문제가 가중되고 있습니다.
퓨전 본딩(Fusion Bonding): 한 자릿수 마이크론 수준의 미세 피치를 지원해 D램 사이의 유전체 층을 줄임으로써 열 저항을 낮추고 데이터 전송 효율을 극대화합니다.
추가 혁신 기술: 액체 냉각, 하이브리드 본딩, 메모리에 최적화된 고속 SerDes I/O 설계 및 고급 D2D PHY 기술을 통해 GPU 부하를 줄이고 열 제약 극복을 추진 중입니다.

https://x.com/DrNHJ/status/2091674711134785733?s=20

https://wccftech.com/micron-says-ai-memory-wall-worsening-compute-outruns-hbm-bandwidth-by-3x-every-two-years/

HYPE 이어 두나무도? 美, 해외 코인기업 러브콜…웹3 '온쇼어' 속도

미국이 해외에서 성장한 가상자산 기업과 거래를 자국 규제체계 안으로 끌어들이는 데 속도를 내고 있다. 과거 규제 불확실성 탓에 싱가포르와 두바이 등으로 빠져나갔던 가상자산 사업을 미국으로 되돌리는 이른바 '온쇼어(onshore)' 전략이다. 최근 국내에서 두나무를 비롯한 국내 기업의 미국 증시 상장 가능성이 부각된 것도 이 같은 정책 변화와 맞물려 있다는 분석이 나온다.

24일 가상자산업계에 따르면 미국 증권거래위원회(SEC)와 상품선물거래위원회(CFTC)는 올 들어 가상자산 기업의 미국 진입 문턱을 낮추는 제도 정비를 잇달아 추진하고 있다. 마이클 셀리그 CFTC 위원장은 지난 19일 백악관 행사에서 "금융의 새로운 최전선이 미국 땅에서 만들어지고 있다"고 강조했다.

도널드 트럼프 미국 대통령이 같은 날 탈중앙화 파생상품 플랫폼 하이퍼리퀴드를 직접 거론한 것도 이런 흐름을 보여준다. 트럼프 대통령은 셀리그 위원장이 하이퍼리퀴드를 규정을 준수하는 방식으로 미국 시장에 들여오기 위해 노력하고 있다는 취지로 말했다. 미국 이용자의 공식 거래를 제한해온 역외 플랫폼까지 규제의 테두리 안으로 끌어들이겠다는 의미로 해석됐다.

CFTC는 이미 길을 닦고 있다. 지난 5월 미국 규제 거래소가 비트코인 가격을 기초로 한 무기한선물을 상장할 수 있도록 허용하고 관련 정책 기준을 내놨다. 만기가 없는 무기한선물은 그동안 하이퍼리퀴드 등 역외 가상자산 플랫폼이 강점을 보여온 시장이다. 미국 밖에서 이뤄지던 거래를 규제시장 안으로 가져오겠다는 정책 변화가 구체적인 상품으로 이어지고 있는 셈이다.

SEC의 움직임은 더 분명하다. SEC는 지난 18일 가상자산에 특화한 새로운 규제안인 'Regulation Crypto Assets'를 제안했다. 일정 요건을 충족한 가상자산 관련 자금조달에 별도의 등록 면제와 세이프하버를 제공하는 내용이다. SEC는 규제안의 목적 가운데 하나로 해외에서 사업할 유인을 낮추고 미국 내 가상자산 시장의 자본 형성과 혁신을 촉진하는 것을 명시했다.

폴 앳킨스 SEC 의장도 이날 "혁신가들을 미국으로 다시 불러들이는 길을 만들고 있다"고 밝혔다. 과거 미국의 규제 방식이 가상자산 기업과 자본을 해외로 밀어냈다는 게 현 SEC의 판단이다. SEC는 지난 3월에도 CFTC와 함께 가상자산에 대한 증권법 적용 기준을 내놓으며 대부분의 가상자산 자체가 증권은 아니라는 입장을 명확히 했다.


미국의 전략은 규제를 없애는 것과는 거리가 있다. 해외 사업자가 미국에서 영업하려면 거래소 등록과 고객보호, 시장감시 등 미국법에 따른 요건을 갖춰야 한다. 대신 사업자가 지켜야 할 기준을 명확하게 제시해 미국 밖에서 영업할 유인을 줄이겠다는 쪽에 가깝다.

이 같은 변화는 글로벌 가상자산 기업의 미국 진출에도 영향을 줄 가능성이 있다. 국내에서는 업비트를 운영하는 두나무가 미국식 회계기준(US GAAP)에 맞춰 재무제표를 정비한 것으로 알려지면서 미국 증시 상장 가능성이 다시 부상하고 있다.

남은 변수는 의회의 시장구조법 입법이다. SEC와 CFTC는 현재 행정 권한 안에서 규제체계를 정비하고 있지만 가상자산의 증권·상품 구분과 두 기관의 관할권을 장기적으로 확정하려면 의회 입법이 필요하다. 앳킨스 의장 역시 지난 18일 가상자산 시장구조법의 필요성을 재차 강조했다.

가상자산업계에서는 미국의 정책 변화가 글로벌 시장의 무게중심을 바꿀 수 있다고 보고 있다. 업계 한 관계자는 "미국의 규제를 피해 역외에서 성장한 거래소와 파생상품 시장을 미국 규제체계 안으로 끌어들이면 거래뿐 아니라 기업공개(IPO)와 자금조달까지 미국 자본시장으로 흡수할 수 있다"며 "하이퍼리퀴드의 미국 진입 추진은 이런 정책 변화를 보여주는 상징적인 사례"라고 분석했다.

https://www.techm.kr/news/articleView.html?idxno=154551

[글로벌 주요국 아마존 B&P Top 100 브랜드별 SKU 수]

1위 메디큐브
6위 바이오던스
12위 셀리맥스
15위 달바
21위 아누아

메디큐브 전주 40개에서 65개로 급증 🔥

2026.08.24 10:12:07
기업명: 엘에스일렉트릭(시가총액: 28조 4,550억) A010120
보고서명: 단일판매ㆍ공급계약체결

계약상대 : LS ELECTRIC AMERICA Inc.
계약내용 : ( 기타 판매ㆍ공급계약 ) Big Tech Data Center 전력설비 공급 PJT
공급지역 : 미국
계약금액 : 2,309억

계약시작 : 2026-06-08
계약종료 : 2027-01-30
계약기간 : 7개월
매출대비 : 4.65%

공시링크: https://dart.fss.or.kr/dsaf001/main.do?rcpNo=20260824800095
최근계약 : https://www.awakeplus.co.kr/board/contract/010120
회사정보: https://finance.naver.com/item/main.nhn?code=010120

엔비디아, 300억 달러 이상의 기업가치로 퍼플렉시티 투자 논의

해당 논의에 정통한 관계자들에 따르면, 엔비디아(Nvidia)는 AI 스타트업 퍼플렉시티(Perplexity)의 기업가치를 300억 달러 이상으로 평가하는 지분 투자 라운드 참여를 논의하고 있습니다. 이번 펀딩 라운드는 수십억 달러 규모에 달할 것으로 보이며, 직전 투자 유치 대비 기업가치가 50% 이상 상승할 전망입니다.

https://www.theinformation.com/articles/nvidia-discusses-perplexity-investment-30-billion-plus-valuation-considered-tech-licensing-deal

전력이 부족합니다.

AI 칩 수요로 인한 글로벌 전력 수요는 2033년까지 사상 최고치인 약 315기가와트(GW)로 급증할 것으로 전망됩니다.

이는 2025년 대비 1,100% 이상 증가한 수치입니다.

미국은 이러한 신규 AI 전력 수요의 약 64%(약 200GW)를 차지할 것으로 예상됩니다.

한편, AI 데이터 센터는 전력 인프라에도 막대한 부담을 주고 있습니다.

모델 학습 중 수십만 개의 GPU가 동시에 켜지고 꺼지면서, 전력 사용량이 설계 용량보다 최대 50%까지 치솟을 수 있습니다.

이러한 급격한 전력 변동은 배터리, 발전기, 냉각 시스템 등 주요 인프라의 마모를 가속화하여 유지보수 및 교체 비용을 증가시킵니다.

https://x.com/KobeissiLetter/status/2091609670297485728?s=20

Phison CEO 판젠청 - 메모리·스토리지 전망: "수급 불균형은 장기화될 것"

공급 확대 속도의 한계: 단기적인 가격 상승세 둔화보다 본질적인 핵심은 공급의 증가 속도가 AI 수요 폭증을 전혀 따라잡지 못하고 있다는 점입니다.

추론(Inference) 중심의 수요 급증: AI 산업이 모델 '학습' 단계에서 실전 '추론' 단계로 넘어가면서, 연산 성능을 뒷받침할 메모리·스토리지 수요가 지속적으로 확대되고 있습니다.

산업적 위상의 구조적 변화: 메모리는 과거의 단순 경기 순환형(시클리컬) 품목에서 벗어나, AI 산업 확장에 없어서는 안 될 필수 인프라로 자리 잡았습니다.

https://wallstreetcn.com/charts/41959663

이란의 해협 장악력 약화 속, 호르무즈 해협 통항량 400% 가까이 급증 – 뉴욕포스트

[속보]이억원 “스테이블코인 디지털자산기본법, 본격 속도낼 것”

이억원 금융위원장은 24일 국회 정무위원회 전체회의에서 이강일 더불어민주당 의원이 스테이블코인 관련 디지털자산기본법(2단계 입법)에 대해 질의하자 “저희들이 다 준비하고 있고 말씀주신 대로 본격적으로 협의에 속도를 내겠다”고 말했다.

이 위원장은 이 의원이 ‘디지털자산기본법 처리가 올해를 넘기면 안 된다’고 하자 “그럼요”라며 화답했다. 이어 이 위원장은 이 의원이 ‘가을에는 정부안을 발의할 것인지’ 묻자 “최대한 노력하겠다”고 강조했다.

https://www.edaily.co.kr/news/read?newsId=03630966645550600

Cantor Fitzgerald, 엔비디아( $NVDA), '비중 확대(Overweight)' 의견을 유지, 목표주가 350달러

"투자자들은 엔비디아(NVDA) 주식을 언더웨이트 상태로 보유하고 있으며, 이 주식이 움직이기 시작하면 정말, 정말 빠르게 움직일 것입니다. 당사는 '비중 확대' 의견과 350달러의 목표주가를 재확인합니다. 엔비디아는 여전히 최고의 추천 종목입니다.

상승 촉매제(Catalyst Path)
1) 2027 회계연도(CY27) 데이터센터(DC) 매출 전망에 대한 잠재적이고 공식적인 업데이트(엔비디아를 제외한 모든 기업이 구체적인 목표 수치를 제시함)

2) 2026년 4분기 기업공개(IPO)를 준비 중인 앤트로픽(Anthropic)의 상세한 정보 (비록 최근 7월 연환산반복매출(ARR)이 불안 요소이긴 했지만)

3) 2027~2028년으로 향하는 하이퍼스케일러 및 기타 자본적지출(capex)의 가시성 상승

4) 네오클라우드(neocloud)의 지속적인 고성장

5) 새로운 금융 계약이 발표됨에 따라 새로운 자산 클래스인 GPU 표준화에 대한 신뢰"

도널드 트럼프

"이란이 완전히 붕괴하고 있다!!!

낸시 펠로시, 다음 종목의 매수 내역을 방금 공시

- 블룸 에너지($BE): 최대 1,200만 달러

- 인텔($INTC): 최대 150만 달러

메타, 수주일 내 AI 에이전트 플랫폼 ‘해치(Hatch)’ 출시 계획

디 인포메이션(The Information)이 확인한 내부 문건에 따르면, 메타 플랫폼스(Meta Platforms)는 내부적으로 '해치(Hatch)'라 불리는 오픈클로(OpenClaw) AI 에이전트의 소비자용 버전을 이르면 향후 몇 주 안에 출시할 계획이며, '워터멜론(Watermelon)'으로 불리는 최신 AI 모델은 10월 출시를 목표로 하고 있습니다.

https://www.theinformation.com/articles/meta-plans-launch-hatch-ai-agent-platform-coming-weeks

[속보] 엔비디아, 삼성파운드리 위탁 추론가속기 양산 돌입…“고객사 이미 확보”

D램 메모리 대신 S램 채택해 AI 답변을 빠르게 받아
저지연 추론 연산자원 확보가 주도권 경쟁에서 열쇠
스페이스XAI도 엔비디아 ‘베라’ 도입, 우주DC에도

삼성전자 파운드리사업부가 생산을 맡은 엔비디아의 추론 전용 칩이 고객을 확보하고 본격 양산 단계에 돌입했다.

엔비디아는 AI 에이전트 구동에 특화해 추론 속도를 높인 ‘그록(Groq)3 LPX’의 양산을 시작했다고 24일(현지시간) 밝혔다.

그록3 LPX는 추론 전용 칩인 언어처리장치(LPU)를 256개 묶어 캐비닛 크기의 랙으로 구성한 시스템이다.

그록 LPU는 엔비디아가 지난해 말 우회 인수를 통해 라이선스를 획득한 칩으로, 일반적인 D램 메모리 대신 S램을 채택해 AI 답변을 빠르게 받을 수 있도록 한 것이 특징이다.

AI 훈련용으로는 다소 부적합하지만, 코딩 등 에이전트 기반 작업은 기존 AI 칩으로 몇 시간이 걸릴 내용을 몇 분 만에 완료할 수 있다.

엔비디아는 기존의 그래픽처리장치(GPU)가 모델 훈련을 포함한 범용 작업을 담당하고, 훈련을 마친 AI가 답변을 도출하는 추론 과정은 속도가 빠른 ‘그록3 LPX’가 맡는 방식의 AI 시스템을 설계했다.

양산에 맞춰 고객사도 유치했다. AI 클라우드 운영업체 네비우스가 그록3 LPX의 첫 고객사라고 엔비디아는 소개했다.

젠슨 황 엔비디아 최고경영자(CEO)는 “추론은 AI의 성장 엔진”이라며 “세계적으로 AI 연산 수요가 가속하는 시점에 맞춰 AI 처리량·효율성·반응성에서 다시 한번 거대한 도약을 가져올 것”이라고 강조했다.

엔비디아는 그록3 LPX를 전량 삼성전자 파운드리(반도체 수탁생산) 사업부를 통해 양산하고 있다.

엔비디아는 ‘베라 루빈’ AI 시스템의 다른 핵심 제품인 에이전트 전용 중앙처리장치(CPU) ‘베라’의 고객사도 확보했다.

엔비디아는 일론 머스크의 AI 기업으로, 스페이스X의 자회사인 스페이스XAI가 베라 CPU를 대규모 도입하기로 했다고 이날 밝혔다.

베라 CPU는 다양한 AI 에이전트를 통솔하는 역할을 도맡는 제품으로, 이를 통해 GPU 등 다른 AI칩이 모델 연산에만 집중할 수 있도록 해준다.

베라 CPU는 기존에 인텔·AMD 등이 생산하는 x86 기반 CPU와 견줘 이 같은 에이전트 작업 처리 속도가 1.8배에 이른다는 게 엔비디아의 설명이다.

특히 스페이스XAI는 이와 같은 AI 시스템을 지상 데이터센터뿐 아니라 우주 궤도상 데이터센터에도 확장할 계획이다.

스페이스XAI는 자사의 1세대 ‘스타마인드’(Starmind) AI 위성에 우주 환경 최적화를 마친 엔비디아 베라 루빈 시스템을 탑재하겠다는 청사진도 제시했다.

다만 엔비디아는 네비우스, 스페이스XAI 등과의 거래 규모와 공급 일정 등은 공개하지 않았다.

이처럼 엔비디아가 그록3 LPX와 베라 CPU의 대형 고객사 확보 소식을 연이어 쏟아내며 시장 수성에 나선 것은 저지연 추론 연산자원을 확보하려는 거대 기술기업의 주도권 다툼이 점점 치열해지고 있기 때문이다.

특히 경쟁사인 AMD가 ‘베라 루빈’ 시스템에 맞서는 랙 시스템 헬리오스를 선보이고, 저지연 칩 스타트업 세레브라스와도 협력하자 견제에 나선 것으로 보인다.

https://n.news.naver.com/mnews/article/029/0003044069?rc=N&ntype=RANKING&sid=104

DDR4, DDR5 현물 가격은 계속 상승중

Nebius Token Factory, AI 클라우드 최초로 NVIDIA Groq 3 LPX 도입

Nebius가 자사의 AI 추론 플랫폼인 'Token Factory'에 AI 클라우드 최초로 NVIDIA Groq 3 LPX를 도입하여 에이전트 워크로드의 토큰 생성 속도를 대폭 개선했습니다.

핵심 기술 및 하드웨어 사양
Groq 3 LPX 도입: NVIDIA Vera Rubin NVL72 플랫폼의 확장 형태로, 응답성과 속도가 중요한 에이전트(Agentic) 사용 환경에 맞춰 초고속 토큰 생성을 지원합니다.

하드웨어 스펙: 각 NVIDIA LPX 랙은 256개의 LPU 가속기, 128GB 온칩 SRAM, 640TB/s의 스케일업 대역폭을 갖추었으며, NVIDIA MGX 기반의 완전 수랭식 냉각 방식을 채택했습니다.

에이전트 지연 시간 최소화: 여러 단계의 모델 호출이 연속적으로 이어지는 에이전트 워크로드의 특성상, 생성 지연 시간(latency)이 누적되는 병목 문제를 극복하는 데 초점을 맞췄습니다.


성능 벤치마크 결과
Gemma 4 31B 신기록: Artificial Analysis 벤치마크 기준, 단일 사용자 대상 초당 3,400 출력 토큰을 기록하며 해당 모델 기준 역대 최고 속도를 달성했습니다.

전력 효율 및 처리량 개선: 긴 컨텍스트 및 저지연 환경에서 2조(2T) 파라미터 모델 구동 시, Vera Rubin NVL72 결합 환경은 기존 GB200 NVL72 대비 메가와트(MW)당 추론 처리량이 최대 35배 향상되었습니다.


개발자 편의성 및 무중단 적용
인프라 재설계 불필요: 새로운 가속기를 사용하기 위해 기존 기술 스택을 재설계할 필요 없이, 기존 Token Factory 플랫폼에서 즉시 구동됩니다.

기존 엔터프라이즈 기능 지원: 오토스케일링, 모니터링(관측성), 네이티브 함수 호출(Function Calling), 구조화된 JSON 출력, 보안 가드레일 등 기존 기능을 동일하게 이용할 수 있습니다.

간단한 전환: 별도의 SDK 교체, 새로운 공급업체 계약, 결제 설정 변경 없이 모델 선택 옵션만 변경하여 지연 시간에 민감한 작업에 즉시 배포할 수 있습니다.

https://nebius.com/blog/posts/nvidia-groq-3-lpx-nebius-token-factory