이제 구글차례인가

아직도 토큰가격 하락을 토대로 AI의 미래를 절하하는 스피커는 그냥 거르시면 됩니다..

https://t.me/kkkontemp/2639

아 이것도 있었네요

씨티: 한국 반도체 관세?

놀랍게도 매수 측(Buyside) 기관 20여 곳에서 어제 한국 반도체 관세와 관련해 질문을 해왔습니다.

하지만 솔직히 말해 어제 오후장에서는 아시아 시장 전체가 밀렸고, 반도체 관세 관련 헤드라인 뉴스는 심지어 장 시작 전에 이미 나온 상태였습니다. 지난주 한국 컨퍼런스에서 얻은 확인 내용들을 바탕으로, 저희는 이전보다 훨씬 더 긍정적인 시각을 갖게 되었다는 점을 강조해 드렸습니다. 당시 확인된 핵심 피드백은 다음과 같습니다.

1. HBM 긴급 주문 증가: 8월부터 HBM(삼성전자의 HBM 3E 및 HBM 4 포함) 긴급 주문(Rush order)이 크게 늘어나고 있습니다.

2. NAND 현물 가격 강세: 소비재 수요 약세에도 불구하고 CMX(중국 모바일/서버 업체 등)의 밀어내기/자재 확보(Pull-in)와 유통 채널 내 제한적인 재고 수준 덕분에 최근 한 달간 NAND 현물가가 강세를 보이고 있습니다 (MLC 64Gb +14.2%). 또한 8월 한국의 NAND 수출 데이터에 따르면 전월 대비(m/m) 60% 이상의 가격 상승이 나타났습니다.

3. 애플의 신규 NAND 장기공급계약(LTA): 애플이 상한선(Price cap)이 없는 조건으로 새로운 NAND LTA를 체결했습니다.

4. 대형 고객사의 강력한 수요: 주요 고객사의 eSSD 및 XL 플래시 수요 전망치가 키옥시아(Kioxia)의 2028년 전체 생산 능력의 50%를 초과하는 수준입니다.

5. 중국 CSP 미팅 피드백: 최근 중국 클라우드 서비스 제공업체(CSP)들과의 매수 측 미팅 결과, 메모리 LTA 체결과 관련해 저항 없이 긍정적인 반응을 확인했습니다.

6. 서버 DRAM 현물가 급등: 메모리 유통업체 측의 최근 피드백에 따르면, 고정 거래가(Contract price)가 $1,600 수준인 반면, 서버용 DRAM 현물가(64GB RDIMM 기준)는 8월 들어 $3,000에서 $3,600까지 다시 급등하기 시작했습니다. 구매자들은 물량 확보에 사활을 걸고 있는 상황입니다.

참고로, 최근 분석가 피터(Peter)가 삼성전자와 SK하이닉스의 주당순이익(EPS) 추정치를 하향 조정한 것은 purely(순전히) 1) 환율 영향 및 2) HBM 매출 비중 변화(최근 주문의 급격한 증가로 인한 HBM 비중 확대)에 따른 것일 뿐입니다.

citi) 애플 메모리 LTA 체결

https://m.fmkorea.com/best/10296056073

일반 디램에 할당되는 케파는 더 줄어드는 중

미국 마이크론이 고대역폭메모리(HBM) 생산 능력을 전년 대비 2배 확대한다. 연말까지 공격적인 설비 투자를 단행, 최신 HBM인 HBM4 12단 공급 역량을 강화한다. 삼성전자·SK하이닉스 대비 부족한 HBM 생산 능력을 끌어올려 시장 점유율을 높이려는 시도다.

https://m.etnews.com/20260903000221

"또 하나 중요한 변화는 AI가 AI를 만드는 연구·엔지니어링 업무 자체에 본격적으로 들어오기 시작했다는 점입니다."

●Astra가 보여준 것은 AI 시스템의 진화

그동안 우리는 AI의 발전을 대부분 모델의 크기로 설명했습니다. 파라미터, GPU 수, 벤치마크 대비 점수 등. 그러나 AI가 실제 경제활동을 하기 시작하면 이제 우리는 숙련된 AI를 필요로 합니다.

AI 에이전트란 의미에서 가장 중요한 건 '자율'이 됩니다. 그래야 조력자가 될 수 있죠.

이때 AI에게 가장 중요한 자산 가운데 하나가 State, 즉 ‘지금까지 어디까지 왔는가’가 됩니다.

앞으로 AI의 경쟁력은 단순히 모델의 지능 하나로 결정되지 않을 겁니다. 오히려 모델 × 메모리 × State Management(상태 관리) × 오케스트레이션의 곱에 의해 발전할 수 있습니다.

모델의 지능이 빠르게 상향 평준화될수록 차이는 모델 바깥에서 만들어질 수 있습니다. 일단 상향 평준화로 방향이 다시 가게 되기 때문에 위의 식에서 모델 다음 3가지가 중요해집니다.

누가 기억을 더 효율적으로 보존하는가. 어떤 기억은 가까이 두고 어떤 기억은 멀리 보낼 것인가. 필요한 순간 얼마나 빨리 다시 찾아오는가. 그리고 그 기억을 누가 소유하는가. 이런 것들이죠.

이게 미장에서 메모리, CPU, 광인터커넥트가 폭발한 이유입니다. 매크로를 이긴 이유죠.

하락싸이클을 이미 반영해버린 Book Value

https://t.me/dykim0210/945

이번에 그렉 브룩만이 GPT-6 아스트라를 출시하며 'Welcome to the AGI era'를 선언했는데, 이에 대한 그의 자세한 생각을 한번 살펴보자.

---

(Q. 제 생각에 에이전트의 시대가 혁명적인 이유는 실제로 무언가를 적어둘 수 있다는 능력입니다. 그래서 코덱스와 ChatGPT의 전환이 필요했던 거죠. 적어둘 수 있는 능력을 얻었으니까요. 적어두면 기억할 수 있습니다. 기억할 수 있으면 온갖 방식으로 엄청나게 더 유용해질 수 있죠. 질문은 이것이 최종 상태인지, 아니면 지속적으로 학습할 수 있는 LLM이 나올 것이고 그게 AGI인지입니다. 제가 완전히 잘못 생각하고 있는 건가요? 아니면 튜링이 제기했던 질문의 두 번째 부분과 맞아떨어지나요?)

"GB: 네, 이것도 논쟁하기에 아주 흥미로운 분야라고 생각합니다. 사람마다 AGI에 대한 정의가 있어서, 거의 흐릿한 개념이 되어 있거든요. 처음에는 모두가 ‘이게 AGI다’라고 동의하는 특정 시점이 있을 거라고 생각했습니다. 하지만 전혀 그렇게 전개되지 않았어요."

"저는 기술의 구체적인 구현에서 한발 떨어져 추상화된 관점으로 보는 편입니다. 기억이 반드시 가중치에 녹아들어야 하느냐? 이게 트랜스포머냐, 다른 무언가냐? 그런 질문은 세부사항이라고 생각해요. 진짜 질문은 실제 AI에 기대하는 방식으로 작동하는 시스템이 있느냐는 것입니다. 학습하고, 사용자에게 배우고, 사용자의 필요에 적응할 수 있는 무언가가 있느냐는 거죠."

"그게 기억을 적어두는 메모장으로 구현되느냐? 소프트 토큰으로 구현되느냐? 다른 방식으로 구현되느냐? 제게는 그 모두가 이 질문에 대한 가능한 답처럼 느껴집니다. (= 상관 없다는 뜻)"

"분명한 것은 ‘메모장에 적어두기’만으로도 거의 합리적으로 예상할 수 있는 수준을 넘어설 만큼 멀리 왔다는 점입니다. 얼마나 성공적인지 보면 정말 놀랍습니다. 그동안 다른 방향을 강조하는 목소리가 많았거든요. 2년 전이라면 “맞아, 엄청나게 긴 컨텍스트가 필요해. 필요한 건 바로 그거야”라고 했을 겁니다. 그런데 실제로는 ‘메모장에 적어두기’와 더 짧은 컨텍스트만으로도 말도 안 될 만큼 멀리 갈 수 있다는 사실이 드러났어요."

---

(Q. 그러면 방금 아스트라를 출시하셨습니다. 드디어 여기까지 왔네요. 새로 사전학습한 모델인가요?)

"GB. 내부 세부사항이나 아키텍처 같은 것에 대해서는 이야기하지 않고 있습니다. 하지만 엄청난 진전입니다. 저희가 공개하는 사실 중 하나는, 이번이 10만 개 이상의 GPU로 학습한 첫 번째 실행이라는 점입니다. 쉽게 말할 수 있는 숫자지만, 그 규모를 한번 생각해보세요. 어떤 면에서 이 데이터센터들은 AI 기술을 만들어 제공하기 위해 저희가 구축한 거대한 기계입니다. 그만한 컴퓨팅을 활용해 저희가 얻은 수준의 결과를 만들어낸다는 건 실제로 거대한 공학적 과제이자 경이로운 성취입니다."

"그중 일부는 모델의 능력을 높이는 데 쓰이지만, 컴퓨팅의 아주 많은 부분은 안전성과 정렬에 투입됩니다. 그 주변에는 엄청나게 많은 보안 작업도 이루어졌습니다. 이 모델을 안전하게 제공하기 위해 막대한 작업을 했다고 생각합니다. 지금까지 저희가 만든 모델 중 가장 잘 정렬된 모델입니다. 제게는 절대적으로 핵심적인 부분이고, 언제나 그래왔습니다. 하지만 능력이 너무 강력해졌기 때문에, 모두의 업무에서 정렬과 안전성이 한층 더 중심에 서게 됩니다."

---

(Q. 그러면 이건 모델 출시인가요, 제품 출시인가요? 아니면 둘 사이에 차이가 있기는 한가요?)

"GB: 둘은 실제로 경계가 흐려집니다. 우선적으로는 모델 출시라고 말씀드리겠습니다. 하지만 모델의 능력이 질적으로 더 뛰어납니다. 가장 눈에 띄는 것은 아마 컴퓨터 사용일 거예요. 제게는 정말 문턱을 넘어섰습니다. (~) 저희에게는 이런 비전이 있었습니다. 화면의 픽셀, 키보드, 마우스를 다루는 AI를 처음부터 끝까지 통합해서 학습시킬 수 있다면, 실제로 어떤 종류의 과제든 수행할 수 있을 것이다. 사람들이 도움받고 싶은 어떤 일이든 이 AI가 할 수 있을 것이다."

"지난 2년간의 시대를 보면 커넥터의 시대였습니다. 어떤 소프트웨어가 있고, 인간은 아무 문제 없이 사용할 수 있는데, AI는 접근할 방법이 없는 겁니다. 그러면 어떻게 하죠? API에 연결되는 아주 특정한 커넥터를 작성해야 합니다. 그런데 모든 기능이 공개되어 있는 건 아니기 때문에, 원래 할 수 있는 모든 일을 할 수는 없어요. 게다가 API가 없는 소프트웨어도 아주 많습니다. 그런 것들은 완전히 접근 불가 영역이죠. 그러니 AI가 우리를 돕는 데 너무나 많은 제약을 받는, 제한된 세계에 있는 겁니다."

"저는 이제 거의 범용 커넥터에 해당하는 기술을 갖게 됐다고 생각합니다. 물론 모든 문제가 해결됐다는 뜻은 아닙니다. AI가 하는 일에 기업 차원의 안전장치를 어떻게 둘 것인지 생각해야 합니다. 적절한 감독과 관리, 추적, 관측 가능성을 어떻게 확보할 것인지도요. 저희는 그 모든 것을 작업하고 있습니다."

"그래서 저는 이것을 이 능력을 활용할 수 있도록 제품을 보급해나가는 연속적인 과정으로 보겠습니다. 하지만 이미 OpenAI 내부에서 사람들이 일하는 방식을 바꾸고 있습니다. 그리고 정말 수많은 기업과 개인의 역량을 끌어올릴 것이라고 생각합니다."

---

(Q. 결국 AI가 통제 가능할 것이라고 말씀하시면서, 동시에 “규칙을 너무 많이 두지 마라. 알아서 해결할 것이다”라고 하시는 거죠. 그걸 충분히 먼 미래까지 펼쳐보면, 궁극적으로 통제 불가능해진다는 이야기 아닌가요?)

"GB: 바로 그게 지금 이 순간, 우리가 들어선 새로운 단계의 핵심이라고 생각합니다. 어떤 면에서는 이제 AGI 시대에 들어섰다고 말하고 싶습니다. 지금 이 순간의 핵심은 바로 그것이라고 생각해요. 이전 모델이었을 수도 있고, 아스트라일 수도 있고, 다음 모델일 수도 있지만, 그 어딘가에서 대부분의 사람이 생각하는 AGI의 문턱을 넘게 될 거라고 봅니다."

https://stratechery.com/2026/an-interview-with-openai-president-greg-brockman-about-astra-and-alignment/

LLM이 처음 출시되었을때의 기시감

그때도 시작은 GPT 였지

https://t.me/free_life59/52515?single

Fable 5.1 보다 2배 적은 토큰을 사용 해서 한국 수등도 만점 기록 했다고 합니다.

원본링크

Anthropic의 IPO 전 수 싸움(gamesmanship) 관련 글. 순전한 추측이지만 의견이 궁금해서 공유해 봄.

Anthropic은 총 ARR(Gross ARR)에서 순 ARR(Net ARR) 회계 방식으로 전환했고, 650억 달러의 ARR 수치에서 Meta와 중국 측 증류(distillation) 매출을 모두 제외했음. Meta의 비중은 ARR 기준 50억 달러가 넘는 것으로 추정되므로, 이를 제외했다는 것은 상장 직후 Meta가 서비스를 중단하더라도(이는 널리 예상되는 수순임) 충분히 충격을 견뎌낼 수 있음을 의미함. 또한 워터멜론(Watermelon)의 품질에 달려 있겠지만, Meta가 서비스를 끊을 확률 자체를 낮추기도 함. 전부 영리한 움직임임.

그러고 나서 Fable 5.1을 출시해 OpenAI가 자신감을 갖고 Astra를 출시하도록 유도함. 참고로 여기서 Astra에 대한 반응(vibes)은 정말 좋은 편임. 내 생각에 Astra는 아마도 Anthropic이 예상했던 것보다 더 잘 나온 것 같음.

이제 Anthropic이 나비에-스토크스(Navier-Stokes) 방정식을 해결했다는 소문이 돌고 있는데, 사실이라면 대단히 인상적인 성과일 것임.

Anthropic은 뭔가 잘못되지 않는 한 Astra보다 우수해야 마땅할 Fable 5.2를 IPO 전 언젠가 출시할 것으로 보임. 또한 9월에 ARR의 뚜렷한 재가속(reacceleration)을 보여줄 계획일 가능성이 높으며, 이는 당연히 언론에 유출될 것임.

Grok 4.7, Meta의 워터멜론, ChatGPT 6.1 역시 향후 6주 이내에 모두 출시될 가능성이 높음. 이 모든 연구소들이 지난 18개월 동안 보지 못했던 수준으로 자신들의 로드맵에 강한 자신감을 보이고 있음. 그리고 Gemini 4가 어떻게 나올지도 지켜봐야 할 것임. 이러한 모든 계획에는 경쟁사들의 변수 역시 작용하기 마련임.

Grok Bot은 지금까지 엔터프라이즈(기업용) 활용 사례를 위한 가장 훌륭한 에이전틱 하네스(agentic harness)로 느껴지며, Instinct는 소비자용 활용 사례를 위한 유망한 에이전틱 하네스임. 머지않아 경쟁사들로부터 두 모델의 다양한 변형들이 나올 것으로 보임. Grok Bot은 내 사용 환경에서 여전히 혁신적임.

그리고 이 모든 일은 전반적인 AI 수요가 지속적으로 가속화되는 흐름 속에서 일어나고 있음.

정말 대단한(wild) 시기임.

여담으로, Krishna는 탁월한 CFO로 입증될 가능성이 높다고 생각함. 그의 이전 Blackstone 동료들은 그를 대단히 높게 평가하고 있음. 컴퓨트를 추론에서 훈련으로 전환하기로 결정할 경우 처음에는 월스트리트가 이를 납득하기 어려울 수 있으므로, 명확한 대미 소통이 매우 중요해질 것임. 투자자들이 결국에는 이해하게 되었던 2010년부터 대략 2016년까지의 Amazon식 '선투자 후 마진 회수(invest and then “check-in” margin)' 전략을 연구해 볼 가치가 있을 것임

>>NVIDIA Rubin Ultra 축소, 병목은 단위 용량 비용이 아닌 단위 대역폭 비용
(SemiAnalysis)

•NVIDIA가 Rubin Ultra의 HBM을 12-Hi에서 8-Hi로 낮춘 핵심 이유가 단순히 용량을 줄이기 위해서가 아니라, 현재 AI 추론의 진짜 제약이 단위 용량 비용($/capacity)이 아닌 단위 대역폭 비용($/bandwidth)에 있기 때문이라고 설명

•HBM 적층 층수는 주로 용량을 결정하는 반면, 총 대역폭은 HBM 스택 수와 인터페이스 폭, 전송 속도에 더 크게 좌우. 따라서 12-Hi에서 8-Hi로 낮추면 DRAM 다이 사용량을 약 3분의 1 줄일 수 있어 현재 부족하고 비싼 HBM 공급 압력을 완화, 스택 수와 인터페이스 구성을 유지하는 경우 전체 대역폭을 유지하거나 오히려 높일수 있늠

•이는 NVIDIA가 더 적은 HBM 용량을 사용해 더 높은 대역폭 경제성을 얻으려는 것임. 추론 중심으로 변해가는 AI 워크로드에서는 단순히 ‘더 많은 데이터를 담는 것’뿐만 아니라 모델 가중치와 KV Cache를 지속적이고 빠르게 이동시키는 것이 더 중요해지고 있어 메모리 대역폭의 중요성 확대

•Rubin Ultra의 조정은 HBM 경쟁 논리가 변화하고 있음을 시사. AI 칩이 추구하는 것은 더 이상 단순히 HBM 용량을 높이는 것이 아니라, 제한된 DRAM·전력·비용 조건에서 가능한 한 높은 실효 대역폭을 확보하는 것임. HBM의 핵심 병목도 ‘용량이 충분한가’에서 ‘1달러로 얼마나 많은 대역폭을 살 수 있는가’로 전환