🇺🇸미중이 함께 상대해야 할 제3의 초강대국 source

1. 폴 튜더 존스가 WSJ 기고에서 던진 경고. 미국과 중국이 AI 패권을 놓고 경쟁하는 동안, AI 자체가 두 나라 모두 통제하기 어려운 힘으로 성장할 수 있다는 것

2. 그가 주목하는 전환점은 재귀적 자기개선(RSI)임. AI가 더 나은 AI를 개발하고, 그렇게 만들어진 AI가 다시 다음 세대를 개선하는 순환. 이 과정이 본격화되면 발전 속도가 인간의 이해와 검증 속도를 앞지름

3. 같은 능력이 질병 치료와 에너지 문제 해결을 앞당길 수도 있음. 하지만 유용한 일을 훨씬 잘하는 능력과 인간의 의도대로만 행동하는 능력이 함께 발전한다고 보장할 수는 없음

4. 존스는 AI가 감시를 피하고 허가받지 않은 행동을 했다는 허깅페이스 사건을 경고 신호로 제시함. 특히 해당 사건에는 아직 자기개선이 개입하지 않았다는 점을 강조. 더 강력한 단계가 오기 전에 통제 능력을 갖춰야

5. 여기서 미중 경쟁의 딜레마가 생김. 상대가 앞서갈까 두려워 개발을 서두르지만, 그 경쟁이 양국 모두 감당하기 어려운 위험을 키울 수 있음. 상대국에 뒤처지지 않는 것과 인간이 통제권을 유지하는 것은 다른 문제

6. 그래서 존스는 양국 전문가의 공동 브리핑과 안전한 개발, 확산을 위한 일정 합의를 촉구함. 실제 합의가 이뤄졌다는 소식은 아님. AI 안전을 국가 간 경쟁과 별개로 다뤄야 할 공동 과제로 올리자는 제안

✍️ AI 패권 경쟁에서 먼저 만드는 것만으로 승리가 완성되지는 않음. 그 힘을 끝까지 통제할 수 있어야 함

💻 Software is about to eat the world much faster (a16z) source

1. 개발의 속도
- 안드레센이 강조한 변화는 소프트웨어 생산을 사람의 코딩 속도에 맞출 필요가 줄어든다는 것
- 벤츠의 오래된 시스템 전환은 당초 예상 8개월에서 8일로 단축됐다고 함

2. 잠겨 있던 수요
- 개발비가 내려가면 고객이 적거나 매출이 작아 만들지 못했던 소프트웨어도 사업성이 생김
- 중소기업의 사내 도구, 방치된 업무 자동화처럼 필요하지만 개발자를 붙이기엔 비쌌던 일이 새로운 시장으로 들어오는 것

3. 경쟁의 이동
- 제품을 만들기 쉬워지면 경쟁자도 늘어남. 고객의 문제를 정확히 이해하고, 실제로 쓰게 만드는 능력이 더 중요
- 코드 작성이 빨라져도 검증, 보안, 운영은 남음. 완성품을 믿고 맡길 수 있어야 개발비 절감이 사업의 확장으로 이어짐

✍️ 소프트웨어 제작비가 무너질수록, 무엇을 만들 수 있느냐보다 무엇을 만들어야 팔리느냐가 중요

🧠 학습 데이터가 바닥나면, AI의 발전은 끝날까? source

1. 고정된 가정
- AI가 모든 일을 배우려면 인간의 작업 기록을 끝없이 모아야 한다는 주장은 지금의 학습방식이 계속 유지된다는 가정에 기대고 있음
- 톰 데이비슨은 AI가 학습 알고리즘 자체를 개선하면, 같은 능력을 훨씬 적은 데이터로 익힐 수 있다고 주장

2. 학습법의 개선
- 핵심은 정답을 더 많이 외우게 하는 데서 끝나지 않음
- 새로운 과제를 더 적은 예시로 배우는 방법을 AI가 직접 연구하는 것
- 이것이 가능해지면 더 나은 AI가 다음 학습법을 개발하고, 그 학습법으로 다시 더 나은 AI를 만드는 순환이 생김

3. 남아 있는 간극
- 새로운 지식을 검증하고 고품질 데이터를 만드는 데 시간이 든다는 점은 인정함
- 다만 이것이 발전을 늦출 수 있어도 영구히 막지는 못함
- 아직 지능 폭발이 입증됐다는 뜻은 아님. AI가 만든 학습법이 새로운 과제와 현실 환경에서도 성과를 내는지가 핵심

✍️ AI의 장기 한계를 판단할 때는 남은 데이터의 양과 함께, 같은 데이터로 얼마나 더 많이 배울 수 있는지도 봐야

🖥 GPU 사용료에도 선물시장이 필요하다 (Pantera) source

1. 거대한 장외시장
- 판테라의 Jay Yu는 GPU 사용권 거래 상당수가 아직 중개인, 계약에 의존한다고 지적
- 그가 예상하는 다음 단계는 전력시장처럼 연산 사용권을 표준화하고, 미래 가격까지 거래하는 시장

2. 반대편의 걱정
- AI 기업은 앞으로 연산비가 오를까 걱정하고, GPU 임대업체는 사용료가 떨어져 투자금을 회수하지 못할까 걱정함
- 미래 사용료를 미리 정할 수 있다면 양쪽 모두 사업계획을 세우기 쉬워짐
- 이미 예약한 연산 중 남는 물량을 재판매하는 서비스도 등장

3. 표준화의 벽
- 같은 GPU라도 위치, 연결 속도, 서비스 품질이 다르면 같은 상품이 아님
- 사용권을 거래하려면 약속한 성능을 실제로 공급할 수 있어야 함
- 먼저 필요한 것은 안정적 공급과 믿을 만한 거래 기록. 여기서 헤지, 대출 같은 금융사업이 파생될 수 있음

✍️ AI가 커질수록 연산을 공급하는 사업뿐 아니라, 연산 가격의 불확실성을 줄여주는 사업에도 기회

🤔속도조절론 대두, AI 산업 이제 꺾였나? source

- AI가 가짜여서가 아니라 너무 진짜여서 생긴 역설적 강세 근거
- 이번 속도조절론은 AI 인프라의 장기 강세 논리를 강화하기도 함
- 다만 기술의 잠재력과 투자자의 수익을 연결하는 방식은 바꿔야

1. 브레이크의 이유
- 아모데이가 제시한 배경은 AI가 AI 개발을 돕기 시작하면서 발전 속도가 빨라졌다는 판단임
- 성능 정체가 아니라 통제의 어려움을 문제 삼은 것
- 기술이 예상보다 강력하다는 방증으로 읽을 수 있지만, 개발사의 평가가 성능, 경제성의 독립 검증은 아님
- Anthropic의 우선 확약은 상주 외부 평가자 도입임. 학습 컴퓨팅 제한은 공조를 위한 논의 대상으로, 투자 축소 확정은 아님
- 다만 말뿐인 우려도 아님. OpenAI는 8월에 안전조치를 위한 일부 학습의 일시 중단을 공개했음
- 실제 시간과 비용을 감수한 행동은 발언보다 무게가 있지만, 연구 지연과 설비투자 삭감은 구분해야

2. 느린 개발, 넓은 보급
- 차세대 모델의 성능 개선과 이미 확보한 성능의 보급은 다른 축임
- 현재 모델이 충분히 유용하다면 개발 속도를 조절해도 기업 도입과 추론 수요는 커질 수 있음
- 안전성 확보가 대형 사고와 광범위한 사용 제한을 줄인다면, 단기 속도를 희생해 더 오래가는 수요를 얻을 가능성도 있음
- 안전 확보 자체도 연산을 요구함. OpenAI는 당시 모니터링에 감시 대상 추론 연산량의 약 20%가 추가로 필요하다고 추정했음
- 안전 투자가 곧 인프라 수요 감소라는 등식도 성립하지 않음. 다만 사용 비용 상승이라는 부담도 함께 생김

3. 경계해야할 확신
- 추론이 훈련 둔화를 메워도 같은 투자액이 같은 업체와 제품으로 돌아온다는 보장은 없음
- 효율 개선에 따른 업무당 연산량 감소를 상쇄하고도 남을 만큼 실제 사용이 늘어야 총 연산 수요가 증가함
- 메모리는 수요가 늘어도 공급이 따라잡으면 가격결정력과 초과마진이 약해질 수 있음
- TrendForce도 이번 논쟁 전부터 일반 DRAM의 가격 저항을 지적하고 가격 상승률 둔화를 전망했음. 이를 HBM, NAND 전체 전망으로 확대할 수는 없음
- 이미 폭발적 성장을 가격에 반영했다면 기술의 강력함을 재확인하는 효과보다 이익 회수 지연의 부담이 클 수도. 주가 하락이 곧 기술에 대한 부정은 아닌 이유

✍️이번 논의는 오히려 기술의 중요성에 대한 확신을 높일 근거일 수 있음. 다만 기술 발전이 곧바로 공급업체의 이익이 되는 건 아님

🌎AI가 경제성장률 20%를 만들 수 있을까? source

1. 성능과 성장
- 두 경제학자는 AI의 폭발적 발전에 동의하면서도, 가까운 미래의 두 자릿수 경제성장에는 회의적
- 코딩이 빨라지는 것과 경제 전체가 빨라지는 것은 다름
- 건설/제조까지 자동화하고, 기업의 업무방식을 바꾸는 데는 별도의 시간이 필요

2. 돈의 이동
- 보고서를 공짜로 만들 수 있어도 사람들이 보고서를 무한정 사지는 않음
- 절약한 돈은 주거, 의료처럼 여전히 부족하거나 비싼 곳으로 이동함
- 잘하는 일이 더 빨라져도, 꼭 필요하면서 개선하기 어려운 일이 경제 전체의 속도를 제한함

3. 발견과 생산
- AI가 신약 후보를 찾아도 임상시험이 필요하고, 새로운 소재를 설계해도 공장을 지어야 함
- 뛰어난 아이디어가 곧바로 생산량과 매출이 되지는 않음. 그렇다고 작은 변화라는 뜻은 아님
- 연 4.7% 성장만 지속돼도 약 15년 만에 경제가 두 배가 됨. AI의 편익이 GDP에 모두 잡히는 것도 아님

✍️ AI가 성공한다는 확신과, 그 성공이 언제 누구의 이익이 되는지는 따로 계산해야 함

중국 VC 거물이 보는 AI 산업 (GSR) source

1. 기술 우위는 일시적이다. 결국 경쟁은 채널, 브랜드, 비용, 운영 효율로 돌아감.

2. 좋은 스타트업은 3S다. Size / Scalable / Sustainable

3. 커스텀이 많을수록 Scale이 어렵다. 고객마다 새로 개발하면 제품보다 서비스업에 가까움.

4. 최고의 성장은 유저가 유저를 데려오는 구조다. 매체비보다 네트워크 효과와 자연 확산이 강함.

5. 단순 AI Feature는 위험하다. 대기업이 무료로 붙일 수 있으면 해자가 약함.

6. 기술보다 유저 입구가 더 중요할 수 있다. 위챗 같은 트래픽 입구가 후발주자 추격의 기반이 됨.

7. 양면, 다자 플랫폼은 해자가 강하다. 공급과 수요를 동시에 묶을수록 방어력이 커짐.

8. 고빈도 서비스가 독립 제품이 되기 쉽다. 이상적으론 주 1회 이상 사용.

9. 시장을 교육하려 하지 마라. 이미 있는 수요를 더 잘 해결하는 게 낫다

10. 유저 수보다 중요한 건 돈과 잔존이다. 결제, 리텐션, 업셀링이 핵심.

11. 표준화될수록 Scale이 쉬워진다. 비표준 서비스는 확장성이 떨어짐.

12. 성장보다 리텐션이 중요하다. AI 제품 기준으로 다음 달 50%+, 6개월 20%+를 언급.

13. AI는 Token Maxing → Value Maxing으로 간다. 가장 강한 모델보다 가장 효율적인 모델을 쓰는 방향.

14. 오픈소스 모델의 비중은 커질 수 있다. AI 인프라의 Linux 같은 역할을 할 것.

15. 좋은 AI 제품은 모델과 Prompt를 숨긴다. 유저는 모델이 아니라 결과만 선택하면 됨.

16. 좋은 AI 기회는 [기존 수요 * 10배 경험]. 새 수요보다 기존 문제를 압도적으로 개선하는 게 강함.

17. 주목 분야는 Role-playing, Coding, Video. 공통점은 고빈도, 강한 수요, 큰 경험 개선.

18. 중국 AI 소프트웨어의 해외 진출엔 오픈소스가 유리. 영업조직보다 제품과 커뮤니티로 직접 확산 가능.

19. 로봇은 꼭 범용일 필요가 없다. 고부가가치, 명확한 작업의 Vertical Robot이 더 현실적.