Microsoft, Azure Maia 시스템을 멀티 GW 규모로 확대

1. Maia 200 상용화 및 Maia 300 출시
Microsoft는 2027년부터 Azure Maia 제품군을 멀티 기가와트(GW) 규모로 확대 배치하고, 자체 제품과 서비스의 주력 AI 추론 시스템으로 활용할 계획입니다.

현재 Maia 200은 Microsoft Copilot을 비롯한 상용 서비스에 적용되고 있으며, OpenAI 모델, 자체 MAI 모델, 주요 오픈소스 모델을 구동하고 있습니다. GitHub Copilot과 Microsoft Foundry도 연말까지 도입할 예정입니다.

미국·유럽·호주에 배치 중인 Maia 200은 주요 GPU 인프라 대비 와트당 토큰 처리량을 최대 1.7배 향상시키고 있습니다.

2. Maia 300 성능 및 특징

Maia 300은 롱컨텍스트 추론, 메모리 집약적 작업, 디코딩 중심의 AI 추론, 다단계 에이전틱 AI에 최적화된 3세대 자체 가속기입니다.

시스템 전반의 효율성 개선을 통해 주요 GPU 기반 시스템 대비 메가와트당 토큰 처리량이 40% 높을 것으로 예상됩니다. 또한 96개 가속기로 구성된 랙에서는 Maia 200 대비 최대 7배의 토큰 처리량을 제공합니다.
핵심 기술은 다음과 같습니다.

(1) 데이터 이동 최소화: AI 추론의 주요 병목이 연산 능력보다 데이터 이동 효율로 변화하고 있습니다. 소프트웨어 정의 데이터플로와 AI 기반 커널 최적화로 메모리 접근 및 데이터 이동량을 줄입니다.

(2) HBM4 대역폭 확대: HBM4 8스택을 탑재해 18TB/s의 메모리 대역폭과 950W TDP를 구현합니다. 온칩 SRAM을 스크래치패드 메모리로 활용해 HBM 접근 부담을 낮춥니다.

(3) 칩렛 아키텍처: 연산, 메모리 컨트롤러, I/O 기능을 분리해 효율성과 확장성을 개선합니다. 연산 칩렛은 TSMC N2P 공정을 사용합니다.

(4) KV Cache 최적화: 개선된 MXFP4 등 저정밀도 데이터 형식을 활용해 연산 및 KV Cache 저장에 필요한 메모리 용량과 대역폭을 줄입니다. 이를 통해 더 긴 컨텍스트와 높은 처리량을 지원합니다.

(5) Scale-up 네트워킹: 이더넷 기반 맞춤형 AI 통신 기술을 적용합니다. 가속기 간 고대역폭 연결을 텐서 병렬화에 최적화하고, 단일 랙부터 데이터센터 규모까지 확장할 수 있도록 설계했습니다.

3. Maia 300 핵심 사양

(1) 출시 예정: 2027년

(2) 반도체 공정: TSMC N2P

(3) HBM: HBM4 8스택, 가속기당 약 288GB 용량 및 18TB/s 대역폭

(4) 가속기 전력: TDP 950W

(5) 랙 구성: 가속기 96개, 총 HBM 용량 27.6TB, 총 HBM 대역폭 1.7PB/s

(6) 랙 전력: 167kW

(7) GPU 대비 효율: 주요 GPU 기반 시스템 대비 MW당 토큰 처리량 40% 향상 예상

(8) Maia 200 대비 성능: 랙당 토큰 처리량 최대 7배 향상

Microsoft는 이러한 시스템 집적도와 메모리 대역폭 확대를 통해 랙당 동시 AI 처리량을 높이고, 대규모 AI 서비스 운영의 전력 효율과 비용 경쟁력을 개선할 계획입니다.

https://blogs.microsoft.com/blog/2026/10/12/microsoft-to-expand-azure-maia-system-to-multi-gigawatt-deployments/

Muse Wonder

- 이제 새로운 모델이 나오면 몇 주 내에 더 뛰어난 모델이 나올 거라고 예상해야 함

- 개인 에이전트 확산의 핵심과제는 유저 개개인의 축적된 생활패턴과 선호도, 온오프라인 네트워크를 맥락으로 유지하며 지속 업데이트하는 것

- 이게 기반이 되지 않으면 일회성 주문봇/작업봇에 지나지 않음

- 메모리가 중요하다는 얘기

- 뮤즈원더의 '액티브 메모리'는 모델이 지속학습 단계(가중치 업데이트)로 가는 중요한 한 과정의 일환으로 생각

일론 머스크

중국이 어떤 제품의 제조 방법을 알아내면, 생산 규모를 확대하는 능력은 종종 전 세계 나머지 국가를 모두 합친 것보다 뛰어납니다. 예를 들어, 리튬 배터리와 태양광 산업에서 이러한 현상을 확인할 수 있었습니다.

스페이스X는 드문 반례입니다. 스페이스X가 궤도로 운송하는 화물의 총질량은 전 세계 나머지 국가를 합친 것보다 대략 10배나 많습니다. 하지만 현재 중국은 스페이스X를 제외한 전 세계 궤도 운송 물량의 대부분을 차지하고 있습니다. 스페이스X는 이러한 구도에서 나타나는 이례적인 존재입니다.

RAM은 다를 수도 있습니다. 하지만 불과 약 3년 전만 해도 RAM은 이익률이 낮은 범용 제품이었습니다. LPDDR5와 LPDDR6는 공통 표준에 따라 설계되며, 중국은 이와 관련된 기술적 과제들을 빠르게 해결하고 있는 것으로 보입니다.

차세대 HBM 아키텍처와 로직 반도체 아래에 SRAM 계층을 배치하는 기술, 그리고 로직 반도체의 냉각 문제를 해결하면서 그 위에 RAM을 3차원으로 적층하는 기술 등은 해결하기가 더 어려울 것입니다.

CXMT가 4F2 제품을 연내 내놓겠다고 발표하며 메모리 주식 하락에 기여한 가운데

일론은 중국이 범용메모리와 달리 새로운 HBM아키텍쳐/3D DRAM/SRAM과 로직 배치 기술 같은 것은 (범용처럼) 따라잡는건 어려운 일이 될 것이라고 언급

마이크로소프트(MS) 인공지능(AI) 칩 개발 책임자가 AI 경쟁 중요 과제로 고대역폭메모리(HBM) 장기 공급을 꼽았다. AI 개발 수요가 계속되면서 추론 핵심 인프라인 HBM이 부족해지자 빅테크들이 1~2년에서 5년 뒤까지 긴 호흡으로 메모리 공급망 선점에 나선다는 설명이다. MS의 기존 AI 가속기 ‘마이아 200’에 HBM을 공급해온 SK하이닉스(000660)와의 협업에도 관심이 모인다.



https://m.sedaily.com/article/20100722

(어제 공개된) Maia300의 HBM 스펙

- HBM4 12단 8스택(스택당 용량 36GB), 총 용량 288GB, 대역폭 18TB/s, 핀당 속도 9Gbps

- MS는 단수와 핀당 속도를 언급하지 않았으나 총용량 288GB와 대역폭 18TB/s를 역산


https://azure.microsoft.com/en-us/blog/deep-dive-into-azure-maia-300-architecture/?utm_source=chatgpt.com

평온한 DDR5 현물시장

세계 최고 부자인 일론 머스크 스페이스X 최고경영자(CEO)가 11월 미국 중간선거를 앞두고 공화당의 최대 '큰 손'으로 올라섰다.

머스크 CEO는 7월 이후 공화당 계열 단체와 자신이 설립한 슈퍼팩(SuperPAC·특별정치활동위원회)에 2억7천600만 달러(약 3천680억원) 이상을 기부했다고 미 일간 뉴욕타임스(NYT)가 머스크 측 대변인들을 인용해 12일(현지시간) 보도했다.

이는 미국 역사상 최대 규모 정치자금 기부 중 하나이며, 해당 분기 민주당 경쟁 기구의 전체 모금액보다 많은 액수다.




https://v.daum.net/v/20261013024159253

이재용 회장

10월 12일
7,667,100주 장외매수
매수 단가 250,500원
총액 약 1.92조원

11월 12일
11,158,000주 수증 예정
(증여자 모친 홍라희 여사)
대략 2.6~2.7조원 규모

증여 완료 후
이재용 회장 보유 주식
총 1억 1,637만 7,053주 (1.75%)

결론
쌀 때 증여 받거나
같이 물리거나

>>Anthropic, 모델 증류 공격 방어 성과 공개…데이터 추출량 90~99% 감소, 공격 계정 수만 개 차단

•Anthropic이 처음으로 모델 증류 공격에 대한 방어 체계와 성과를 공개함. 3단계 방어 체계를 통해 공격자가 추출할 수 있는 추론 데이터를 기존의 1~10% 수준으로 줄였으며, 관련 공격 계정 수만 개를 차단함. 이를 위해 수조 개 토큰에 해당하는 상당한 수익을 자발적으로 포기했다고 밝힘

>摘要：Anthropic首次公开其反蒸馏防御体系：通过三层防护架构，将攻击者可提取的推理数据压缩至原来的1%至10%，并已封禁数万个相关账号。为此，公司主动放弃了涉及数万亿token的"有实质意义的收入"。

미 국채금리 상승 요인 분석 (GS)

1. 상승 원인 분해
• 정책금리 기대 변화가 장기금리 상승의 약 70% 설명
– 1년 선행 정책금리 컨센서스가 연초 대비 약 125bp 상승, 장기 포워드에 약 55bp 기여
– 에너지 쇼크로 인상 기대가 시작됐고, 노동시장 안정과 성장 탄력이 전환을 뒷받침
• 장기 성장 기대 상향 및 해외 파급효과가 합산 10~15bp 기여
• 모형으로 설명되지 않는 잔차는 10~15bp (10년물 기준 정책경로 기여는 80~85bp로 더 크나 잔차는 유사)
• 재정 궤적은 지속 불가능하나 연초 이후 의미 있게 변하지 않았고, 민간 보유 국채/GDP 비중도 안정적

2. 리스크 프리미엄과 AI 투자 요인
• 거시 불확실성 확대와 국채의 분산투자 효과 약화가 리스크 프리미엄 상승과 부합
• 단기 구간은 시장 내재 연준 경로가 서베이 대비 40~50bp 더 매파적
– 변동성 상승과 헤지 가치 변화(단기금리-주가 상관관계)가 이 중 25~30bp 설명
• 에너지 가격과 금리의 높은 양(+)의 상관관계로 채권이 주식의 헤지 수단으로 부진
• AI 투자 지출이 성장 기대와 정책금리 기대를 통해 금리를 높이는 요인으로 작용
– 하이퍼스케일러 capex 컨센서스가 꾸준히 상향
• AI 관련 부채 공급 흡수가 국채금리에 미치는 영향은 크지 않고 지속적이지도 않음
– IG 발행은 발행일 당일 국지적 영향에 그치며, 장기 구간에서는 영향이 유의하게 약화

3. 포지셔닝 및 기술적 요인
• 채권 펀드의 듀레이션 포지션이 벤치마크 대비 뚜렷한 UW
– 과거 이런 수준 이후 향후 1~2분기금리 하락 경향
• 시장 스트레스는 질서 있는 수준이며 글로벌 투자자의 집중 매도 증거는 미미
– 달러 강세에 따른 외국 공적 부문 매도는 과거 패턴과 일치
– 스왑 스프레드 변화도 제한적

홍콩의 유력 경제지에 따르면, 혹 탄이 실제로 한 말은 다음과 같다.


혹 탄은 오픈AI의 사업 자체는 탄탄한데, 시장이 이 회사의 매출 수치를 잘못 해석했다고 직설적으로 말했다.

단기적인 지표 하나만 보고 주식을 파는 투자자들은 “카지노에서 도박하는 사람들과 다를 바 없다”는 것이다.




** 어제 혹 탄이 "AI 투자자들은 카지노 도박하는 것 같다"라는 언급을 했다고 보도되며 기술주 하락에 일조했는데, 언론이 번역 및 전달을 잘못한 것 같다는 새로운 내용


https://x.com/ckcheung/status/2109854617853194555

9월 추론 토큰 처리량은 3.9경개로 전년대비 8배, 전월 대비 +16% 증가

!!

최태원 SK(034730)그룹 회장이 노소영 아트센터 나비 관장과의 재산분할 재원을 마련하기 위해 매각하기로 한 SK㈜ 지분의 인수자가 미국 델 테크놀로지스 창업자인 마이클 델 회장 측으로 확인됐다. SK가 계약 당시 ‘전략적 투자자’라고만 밝혔던 5440억 원 규모의 지분을 델 회장 일가가 운용하는 펀드가 인수하기로 한 것이다.





https://n.news.naver.com/mnews/article/011/0004670917?sid=101

(25년 9월 썼던 첫 메모리 블로그 내 발췌)


주가에 영향을 주고 있으니 틀린 거 같지만,
실질적으로는 위 생각에 여전히 변함이 없다.


https://m.blog.naver.com/cahier/224018872135

해당 스파이는 사우디 국적의 직원으로 현재 알려졌으며, 2025년 7월부터 OpenAI 에서 일을 한거로 알려졌습니다.

멍청하게도 해당 직원의 와이프 지피티 계정으로 해당 기기의 와이파이 연결 유무를 물어보거나 메모리 카드 암호화 등을 물어본것도 발견 되었다고 합니다.

OpenAI 에 대한 영화가 나오기도 전에, 영화같은 일이 벌어졌네요.

원본링크

일론 머스크

"마이크론은 향후 메모리 가격 책정에 있어 합리적인 태도를 보여왔습니다. 반면 다른 업체들은 터무니없이 높은 가격을 요구해 왔으며, 이는 현재 고객들이 결코 잊지 않을 일입니다…
마이크론이 취하고 있는 전략은 장기적인 고객 충성도를 확보하기 위한 현명한 선택입니다."

- 3사가 지금까지 (조금씩은 차이나겠지만) 거의 같은 방향성의 ASP 상승과 마진율 상승을 이어왔고

- LTA를 비롯한 향후 가격협상에서도 회사별로 엄청 차이나는게 아닐텐데..?

- 그리고 마이크론의 말대로 'LTA의 하한가격 기준으로도 과거 최상위 마진율을 가볍게 넘는 마진율이 가능하다'고 했고 이는 대략 GPM 70%대를 의미하는데

- (시클리컬로 치부되는) 메모리 공급사의 장기 GPM 70%를 '합리적 가격 책정'이라고 평가해준다면 더없이 땡큐

아마 최근 시장(메모리) 변동성의 직간접적 원인
23일 달팽이들 신용등급 강등 전까지 마무리 될 포지션 아닐지
(엔캐리 - 전닉레버리지에 이어 유럽채권캐리라니 ☹️🙁)

https://www.briefs.co/news/hedge-funds-scramble-as-french-bond-rout-blows-out-spreads/