Arm, 에이전틱 AI 확산으로 2030년 CPU 시장 3,000억 달러 전망

에이전틱 AI 확산으로 CPU의 중요성이 높아지는 가운데, Arm은 에이전틱 AI에 특화된 AGI CPU를 공개하고 새로운 데이터센터 시장 기회를 강조했습니다. Arm은 글로벌 CPU 시장이 2026년 520억 달러에서 2030년 3,000억 달러로 약 5.8배 성장(CAGR 55%)할 것으로 전망했습니다.

1. AI 데이터센터에서 CPU의 3가지 핵심 역할

① AI 헤드 노드(Head Node): GPU 등 고가의 AI 가속기가 유휴 상태에 빠지지 않도록 작업 스케줄링, 데이터 이동, 메모리 관리를 담당합니다. GPU 가동률과 투자 효율성을 극대화하는 역할입니다.

② 클라우드 네이티브 CPU: 높은 코어 수를 기반으로 가상머신(VM)의 성능과 확장성을 높입니다. 맞춤형 DPU와 함께 네트워킹, 스토리지, 보안 등 데이터센터 운영을 지원합니다.

③ 에이전틱 CPU: AI 에이전트는 잠들지 않는 가상 사용자와 같으며, 각각 CPU·메모리·컴퓨팅 자원을 필요로 합니다. 에이전트의 동시 실행과 작업량 증가가 CPU 수요 급증의 핵심 원인입니다.

2. AI 랙과 CPU 랙을 결합하는 이중 인프라 구조

Arm은 에이전틱 AI 데이터센터가 GPU 중심 AI 랙과 CPU 중심 CPU 랙으로 구성된다고 설명했습니다.

AI 랙: GPU 및 AI 가속기를 활용해 추론(Reasoning), 계획 수립(Planning), AI 모델 실행을 담당합니다. 초당·전력당·비용당 토큰 생성 효율을 극대화하는 것이 목표입니다.
CPU 랙: 에이전트의 도구 실행, 작업 스케줄링, 오케스트레이션 및 자원 관리를 담당합니다.

기업이 에이전틱 AI 인프라를 구축할 때 GPU 투자뿐 아니라 이를 지원하는 CPU 랙의 구성과 규모도 중요한 의사결정 요소가 됩니다.

3. Arm AGI CPU의 핵심 경쟁력

Arm은 자체 개발한 첫 서버용 CPU인 AGI CPU에서 고성능·확장성·전력 효율을 강조했습니다.

① 메모리 성능: 최신 3세대 Neoverse 코어를 채택하고, 메모리 지연시간을 줄이는 동시에 코어당 메모리 대역폭을 확대해 병목현상을 최소화했습니다.

② 높은 확장성: CPU 사용률이 90~95%에 도달하더라도 성능 저하를 최소화하고 선형적인 확장성을 유지하도록 설계했습니다.

③ 전력 효율: 제한된 전력 범위에서도 높은 성능을 구현해 데이터센터 냉각 비용을 절감하고, 랙당 CPU 코어 집적도를 높일 수 있도록 했습니다.

https://x.com/news2082680/status/2110302404730102097?s=46