Anthropic CEO “AI 개발 속도 늦춰야”…3단계 ‘프런티어 속도조절’ 제안

Anthropic CEO 다리오 아모데이, 최첨단 AI의 성능 향상 속도를 의도적으로 조절해야 한다고 주장. AI 개발을 멈추자는 것이 아니라, 안전·정렬 기술이 따라잡을 시간을 확보할 정도로 개발 속도를 늦추자는 제안.

배경은 두 가지. 최근 AI가 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선’이 업계 전반에서 시작되며 발전 속도가 급격히 빨라지고 있고, OpenAI-Hugging Face 사건처럼 AI 에이전트가 지시받지 않은 사이버 공격과 평가 시스템 해킹을 시도한 사례도 등장했다는 판단.

이에 3단계 방안을 제시.
① 외부 평가기관 상주: Anthropic부터 METR 같은 제3자 평가기관에 직원 수준의 지속적인 접근 권한을 제공해 모델·학습 과정·안전조치를 상시 검증.
② 민주주의 국가 내 공동 속도조절: 미국 등 주요 AI 기업들이 공통 안전기준과 성능 향상 속도 제한을 마련하고, 특정 능력 수준에 도달한 모델은 안전 검증을 통과해야 다음 단계로 진행.
③ 중국 포함 글로벌 공조: 생물무기 활용 금지, 출시 전 위험평가, 재귀적 자기개선 속도 제한 등을 단계적으로 협의. 다만 전면적인 AI 개발 중단 합의는 현실성이 낮다고 평가.

동시에 Amodei는 민주주의 진영이 속도를 늦출 여유를 가지려면 중국과의 기술 격차를 유지해야 한다고 강조. 첨단 AI칩·반도체 장비의 중국 수출 제한, 불법 증류 차단, 모델 가중치 탈취 방지 등은 오히려 강화해야 한다는 입장.

전문: https://x.com/darioamodei/status/2098773920774074715?s=46

출처:X(@darioamodi)

■ 주말 주요 뉴스

» 앤트로픽, “최첨단 AI 개발 속도 늦출 수도”
CEO 다리오 아모데이가 안전 문제를 이유로 프런티어 AI 개발 속도를 조절할 필요가 있다고 주장, OpenAI CEO 샘 알트먼과 테슬라 CEO 일론 머스크도 취지에 동의. 다만 Amodei는 모델 훈련이나 기술 발전 자체를 중단하자는 의미는 아니라고 선을 그음.

» 엔비디아, Anthropic IPO에 최대 $100억 투자 검토
Anthropic이 IPO에서 최대 $1,000억을 조달하고 약 $2조 기업가치를 목표로 할 수 있다는 보도. 엔비디아는 최대 $100억 투자를 검토 중인 것으로 전해짐.

» Oracle 창업자 래리 앨리슨, 최대 $75억 주식 매각 계획 철회
기존에 계획했던 최대 5,000만주 매각을 취소.

» Tesla, 10월 1일 Roadster 공개 예고
머스크가 차세대 Roadster 공개일을 10월 1일로 제시.

—————————

■ 이번 주 주목할 내용

9월 14일(월)
G20 에너지장관 회의 시작. 에너지 안보와 핵심광물 공급망 논의. 동시에 호르무즈 해협 임시 공동 관리 방안을 놓고 걸프 국가와 이란의 협상 결과에 주목.

9월 16일(수)
이번 주 핵심은 FOMC. 시장은 현재 25bp 인상 가능성을 약 85% 수준으로 반영. 인상 여부 자체보다 이번 인상이 일회성 조정인지 추가 인상 사이클의 시작인지가 더 중요. 같은 날 미국 8월 소매판매도 발표. 시장 예상은 전월 대비 +0.8%.

9월 17일(목)
미국 주택착공·건축허가, 잠정주택판매 발표.

9월 18일(금)
BOJ 통화정책회의. 기준금리를 1.0% → 1.25%로 인상할 가능성이 시장에서 거론되고 있어 엔화와 글로벌 장기금리에 영향 줄 수 있음.

Anthropic, 2개 분기 연속 흑자 전망…IPO 기업가치 2조달러 이상 거론

Anthropic이 투자자들에게 이번 분기에도 조정 영업이익 흑자를 기록할 것이라고 전달했다는 FT 보도. 2분기에 이어 2개 분기 연속 흑자로, IPO를 앞두고 프런티어 AI 기업의 막대한 현금 소진 우려를 낮추려는 움직임. 매출총이익률은 80% 이상으로 알려짐.

성장세도 가파름. 2분기 매출은 전년 대비 14배 증가한 115억달러, 7월 말 연환산 매출은 지난해 말 90억달러에서 650억달러로 급증. 투자자들은 올해 말 연환산 매출 1,200억달러, 2027년 말에는 그 약 3배까지 전망.

Anthropic은 Nasdaq 상장을 선택했으며 기업가치 2조달러 이상이 거론. 당초 지난주 투자설명서 공개가 예상됐지만, 먼저 소수 투자자에게 서류를 공유하고 질의를 받은 뒤 공개할 계획.

다만 지난 주말 다리오 아모데이 CEO가 최근 AI 성능 향상 속도를 늦춰야 한다고 주장한 점이 IPO의 새로운 변수로 부각. 개발 속도를 늦추면 신규 모델 학습에 들어가는 수십억달러를 절감할 수 있지만 경쟁사가 기술 격차를 좁힐 가능성도 있다는 분석도.

- 출처: FT

Anthropic·OpenAI·Google, AI 공동 표준기구 설립 논의…빅3 자율규제 움직임

Anthropic·OpenAI·Google이 AI 모델의 안전 테스트·감사를 위한 업계 공동 표준기구 설립을 논의 중. 지난 7월부터 세 회사 실무진이 정기적으로 만나왔으며, 최근까지도 논의가 이어지고 있는 것으로 알려짐.

알트먼도 이번 주 사내 미팅에서 공동 테스트·감사 기구를 지지. 다만 미 정부 주도의 기구 설립은 어렵다고 보고, 주요 AI 기업들이 직접 표준기구를 만드는 방향을 제시. 앞서 아모데이 역시 정부 규제가 마련되기 전 업계가 자발적으로 공통 안전기준을 만들고 개발 속도를 조절해야 한다고 주장.

당초 백악관에서도 FINRA를 본뜬 AI 자율규제기구를 만드는 행정명령 초안이 논의됐지만 트럼프 행정부 내부 지지를 얻지 못해 중단. 이에 빅3사가 정부 규제를 기다리기보다 업계 차원의 자율규제로 움직이는 모습.

다만 대형 AI 기업들이 직접 규칙을 정하는 데 대한 견제도 등장. Cohere CEO Aidan Gomez는 대형 업체들이 만든 규칙이 작은 경쟁사를 제약할 수 있다며 이를 “카르텔”이라고 비판.

- 출처: The Information

2026.09.14 10:13:31
기업명: 삼성중공업(시가총액: 18조 6,560억) A010140
보고서명: 단일판매ㆍ공급계약체결

계약상대 : 오세아니아 지역 선주
계약내용 : ( 공사수주 ) LNG운반선 4척
공급지역 : 오세아니아 지역
계약금액 : 14,078억

계약시작 : 2026-09-11
계약종료 : 2029-09-28
계약기간 : 3년
매출대비 : 13.2%

공시링크: https://dart.fss.or.kr/dsaf001/main.do?rcpNo=20260914800075
최근계약 : https://www.awakeplus.co.kr/board/contract/010140
종목공시 : https://www.awakeplus.co.kr/disclosure/010140

트럼프, AI 개발 속도조절에 선 긋기…“AI 이기는 자가 승리”

지난 주말 주요 AI 기업 수장들이 AI 개발 속도를 공동으로 조절할 필요성에 동의한 가운데, 트럼프 대통령은 정부 차원의 규제 강화에는 부정적인 입장을 보임.

트럼프는 최근 제기된 AI 위험 우려에 대해 “그들이 이야기하는 일들은 일어나지 않을 것”이라며 미국이 중국보다 AI 개발에서 앞서는 것이 우선이라는 기존 입장을 재확인. “AI에서 승리하는 자가 승리한다(whoever wins AI wins)”고 강조.

AI 기업들은 공동 속도조절이 반독점 문제에 걸리지 않도록 정부가 이를 중재하거나 제도적으로 뒷받침해주길 원하고 있음. 반면 백악관 AI 고문 David Sacks는 “OpenAI와 Anthropic이 원한다면 그냥 속도를 늦추면 된다. 당신들이 속도를 정하고 있다”며 정부 개입이 필요 없다고 반박.

- 출처: WSJ(Trump Sees Race Against China as Key Issue on AI Regulation)

ETF 개인순매수/순매도 TOP10

출처: KOSCOM, 타임폴리오자산운용
기준: 2026년 9월 14일 장마감 기준

(로이터) "보스턴다이내믹스, 2027년 IPO 가능성 낮아”

현대차그룹 고위 관계자가 보스턴다이내믹스의 2027년 IPO 가능성에 대해 “쉽지 않을 것”이라고 밝혔다는 로이터의 보도.

아직 아틀라스의 대규모 현장 투입이 이뤄지지 않았고 적자도 지속되는 상황. 현대차그룹은 공식적인 IPO 일정이나 목표 기업가치를 밝힌 적 없음.

현대차는 2028년까지 연 3만 대 규모 로봇 생산능력을 구축하고, 같은 해 미국 조지아 공장부터 아틀라스를 투입한 뒤 그룹 제조현장으로 확대할 계획. 시장에서는 실제 공장 데이터 축적과 성능 개선, 외부 고객 판매가 선행돼야 한다는 평가.

보스턴다이내믹스는 2025년 5,284억원의 손실, 2021~25년 누적 약 1.7조원의 손실을 기록. 현대차는 지난 7월 SoftBank의 잔여 약 10% 지분을 인수해 보스턴다이내믹스를 완전 자회사로 편입하기로 한 상태.

- 출처: 로이터

Anthropic 데이터 정책 우려 확산…Nvidia·Palantir·Booz Allen, 모델 사용 제한

OpenAI·Anthropic의 기업 데이터 보관·활용 범위와 지식재산 노출에 대한 우려가 커지면서, Palantir·Nvidia·Booz Allen 등 대기업들이 데이터를 아예 저장하지 않는 ZDR(Zero Data Retention)을 요구하고, 보장이 없을 경우 최신 모델 사용을 제한하거나 자체·오픈소스 AI로 대체하기 시작.

특히 Anthropic은 지난 6월 Fable 출시와 함께 보안 목적으로 고객 사용 로그를 30일간 보관하도록 정책을 변경하며 논란이 확대. 고객 반발 이후 데이터를 자체 서버에 저장하는 옵션을 도입했지만, Anthropic이 이를 향후 철회할 수 있어 일부 기업은 여전히 반발.

Palantir는 철회 불가능한 ZDR이 보장될 때까지 Fable을 자사 고객에게 제공하지 않기로 했고, Nvidia도 Fable을 덜 민감한 업무에만 사용하며 공급망 등 핵심 업무에는 자체 AI Nemotron을 활용. Booz Allen도 독점 사이버보안 소프트웨어 관련 업무에서 Fable 사용을 제한.

Northrop Grumman은 OpenAI·Anthropic 대신 인터넷과 분리된 에어갭 서버에서 AI 모델을 자체 구동. 미국의 한 대형 전력회사도 Anthropic이 철회 불가능한 ZDR을 보장하지 않자 핵심 전력 인프라에 Fable을 적용하려던 계획을 철회.

OpenAI 역시 기업 고객의 입력·출력 데이터는 기본적으로 학습에 사용하지 않는다고 밝히지만, 비식별화된 사용 메타데이터는 모델 개선에 활용. Anthropic은 익명화된 이용 메타데이터를 제품 개선에는 활용하지만 모델 학습에는 사용하지 않는다는 입장.

여기에 OpenAI·Anthropic이 기업용 앱과 신약 등 실제 제품 개발까지 사업 영역을 확대하면서, 고객사 입장에서는 핵심 데이터를 맡긴 AI 업체가 향후 경쟁자가 될 수 있다는 우려도 확대. Microsoft·Palantir 등은 이를 활용해 외부 AI 업체로 데이터를 보내지 않는 자체 환경이나 자사 플랫폼을 통한 모델 이용을 적극 제안.

- 출처: The Information

모닝브리핑: AI 속도 논쟁에 10년물 5%까지

S&P500 -0.48%, NASDAQ -0.56%, DOW -0.29%

■ AI ‘속도 조절’ 논쟁 확산…반도체 급락
앤트로픽 CEO 다리오 아모데이가 사이버보안과 AI의 자기개선 위험을 이유로 프런티어 AI 개발 속도를 늦춰야 한다고 주장, 샘 알트먼·일론 머스크 등이 취지에 동의하면서 AI 인프라주 전반 약세. SOX -5.9%, 반도체·메모리·네트워크·전력 인프라 동반 하락.

■ 엔비디아·트럼프는 반대
반면 엔비디아 젠슨황과 트럼프 대통령은 개발 둔화론에 반대. 젠슨황은 All-In Summit 트럼프 대통령과의 통화에서 AI 개발 속도를 늦춰서는 안 된다는 입장을 밝혔고, 트럼프도 데이터센터 반대 여론을 비판하며 미국이 중국에 AI 주도권을 내줘서는 안 된다고 강조. 실제 시장에서도 모델 발전 속도 조절이 곧 AI 설비투자 축소를 의미하지는 않는다는 반론도.

■ 미국채 10년물 5% 돌파
미국채 10년물 금리가 장중 5.01%까지 상승, 2023년 이후 처음으로 5% 돌파. 이란 전쟁발 유가 상승과 미국의 대규모 국채 발행, AI 투자 확대에 따른 기업 자금조달 수요까지 겹치며 장기금리 상승 압력이 커진 영향.

■ 내일 FOMC
수요일 25bp 인상 가능성은 약 91%로 사실상 기정사실화된 상황. 시장의 관심은 이번 인상 자체보다 추가 인상 횟수와 장기금리를 안정시킬 수 있을지에 쏠림. 최근 재무부의 국채 바이백에도 금리가 다시 5%를 넘어서면서, 시장에서는 문제가 단순 유동성이 아니라 과도한 부채 발행에 있다는 지적도 제기.

■ 호르무즈 협상 연기…유가 다시 상승
이란과 걸프 국가들의 호르무즈 해협 관련 회담이 무기한 연기되며 외교적 해법 기대 약화. 사우디 동서 송유관 역시 공격 이후 가동 차질이 이어져 복구가 늦어질 경우 글로벌 원유 공급의 최대 4%가 위험할 수 있다는 우려. WTI는 +1.3% 상승하며 최근 10거래일 중 9거래일 오름세.

===========

■ 주요 종목

» Microsoft(+0.3%)
향후 AI 모델에 적용할 행동강령과 개발 한계를 공개. 모델이 시스템을 해킹하거나 인간을 속이고, 종료 명령에 저항하거나 독자적 목표를 추구하지 못하도록 안전 제약을 설정. AI가 인간을 대체하기보다 지원해야 한다는 원칙도 명시.

» Nvidia(-3.4%)
Anthropic IPO에서 최대 $100억 규모 앵커 투자를 검토 중이라는 보도. 다만 이날은 AI 개발 속도 조절론이 반도체 업종 전반을 압박하며 하락.

» Rumble(+11.6%)
Anthropic과 6년간 $137억 규모 컴퓨팅 계약을 체결했다는 The Information 보도로 급등. AI 인프라주가 전반적으로 밀린 가운데 대규모 개별 수주가 부각.

» Bank of America(-5.1%)
CEO Brian Moynihan이 3분기 트레이딩 매출은 전년과 비슷하고, IB 수수료는 $16~18억으로 시장 예상 약 $20억을 하회할 것으로 전망하면서 은행주 전반 약세.

» HPE(-10.8%)
Evercore ISI가 Outperform → In Line으로 하향. 올해 주가가 약 160% 오른 상황에서 밸류에이션 부담과 혼재된 업황 전망을 지적.

» Corning(-13.7%)
최대 $20억 규모 주식 매각 계약 체결 소식에 급락. 최근 AI 광통신 기대를 반영한 주가 상승 이후 신규 주식 공급 부담 부각.

» GE Vernova(-8.6%)
GLJ Research가 Sell, 목표가 $470으로 커버리지 개시. 밸류에이션과 사이클 부담을 지적.

» Anthropic
금융자문사를 위한 Claude for Financial Advisors 출시. BlackRock·Schwab 등 금융 플랫폼과 연결해 포트폴리오 관리와 고객 업무에 활용할 수 있도록 설계.

※ 오늘/이번주 주목할 내용
오늘은 9월 Empire State 제조업지수 발표. 시장의 핵심은 내일 FOMC.

중국도 ‘AI 통제 상실’ 경고…미중 AI 안전 논의 본격화

= 최근 Anthropic·OpenAI 등 미국 AI 업계에서 AI 통제 상실 위험과 개발 속도조절 논의가 본격화

= 중국도 수년 전부터 같은 위험을 공식적으로 경고.

● 2024년부터 AI 안전 프레임워크에 ‘통제 상실’ 위험을 명시
● 2025년 AI의 자기복제·외부 자원 확보 가능성 등을 구체화.
● 올해 5월 AI 에이전트 규칙에서는 이상 행동에 대한 개입·차단 기능과 인간의 최종 결정권을 요구.

= 시진핑 주석도 지난 7월 “AI는 항상 인간의 통제 아래 있어야 한다”고 강조.

= AI 안전 문제는 이달 예정된 미중 간 논의에서도 주요 의제가 될 전망.

출처: Reuters

AI·자율무기 투자 열기 지속…Shield AI, 기업가치 200억달러 추진

= 최근 AI·자율무기 분야로 투자자금 유입 지속.

= 미 국방 AI 스타트업 Shield AI가 기업가치 최소 200억달러로 신규 투자유치를 논의 중. 지난 3월 127억달러 대비 5개월 만에 약 60% 상승.

= 상승 배경에는 자율비행 AI SW 'Hivemind'의 미군 계약 확대. 지난 5월 미 국방부 드론 군집비행 시범사업 수주에 이어, 6월 미 공군 무인 전투기 CCA 프로그램 내 Hivemind 적용 계약도 확보.

= Shield AI는 수직이착륙 감시 V-BAT 드론과 활주로 없이 운용 가능한 자율 전투기 X-BAT도 개발 중.

= 최근 자율무기 스타트업 Mach Industries도 기업가치가 두 배로 상승했고, 미사일 스타트업 Covenant도 2.5억달러 이상 조달.

- 출처: The Information

[TIME ETF Morning Brief 2026.09.16]

S&P500 -0.45%, NASDAQ -0.78%, DOW -0.63%

■ 유가 4% 급등, 10년물은 다시 5% 부근
사우디 Yanbu 선적 중단과 일부 유럽향 물량 취소, 리비아 생산 차질, 후티 공격이 겹치며 공급 우려 확대(WTI +4.4%). 연료비 부담이 소비로 번질 수 있다는 우려에 음식점·의류·여행 등 소비주 약세.
미 10년물은 장중 2007년 이후 최고 수준까지 오른 뒤 5% 부근. FOMC의 25bp 인상은 기본 시나리오로 반영, 시장은 점도표와 추가 인상 횟수에 더 주목.

■ AI 급락 일단은 진정
Anthropic의 AI 개발 속도 조절론에 급락했던 반도체는 일부 반등. 젠슨 황과 브로드컴 CEO는 개발 둔화가 곧 반도체 수요 둔화로 이어지는 것은 아니라고 반박. 추론·에이전트 확산으로 컴퓨팅 수요는 여전히 공급 제약 상태라는 시각도 확산.

■ 클래리티 법안 상원 절차 표결 실패
미 상원에서 가상자산 규제 체계를 마련하는 Clarity Act의 본회의 심의를 위한 절차 표결 부결. 통과에 필요한 60표를 확보하지 못하면서 법안 처리가 중단, 규제 명확화 기대 후퇴.

===========

■ 주요 종목

» Nvidia(+0.6%)
젠슨 황 CEO가 AI 개발 둔화론에 반대하며 빠른 혁신과 안전을 병행할 수 있다고 강조. 추론·에이전트 확산에 따른 컴퓨팅 수요 지속 전망도 재확인.

» Broadcom(-1.6%)
Hock Tan CEO가 AI 개발 속도 조절이 반도체 수요 둔화로 이어질 것이라는 우려를 일축. 2027년 AI 반도체 매출 $1,150억 전망 유지.

» Meta(+0.7%)
AI 기능을 강화한 구독 서비스 Meta One 출시. 개인용 번들은 월 $7.99부터 시작하며, 자체 AI 칩 Arke를 2027년 상반기 배치할 계획.

» Microsoft(-1.6%)
분기 배당을 $0.91 → $0.98로 7.7% 인상. 12월 10일 지급 예정.

» Salesforce(-1.4%)
Nvidia의 오픈웨이트 Nemotron을 기반으로 자체 추론 모델 Koa 공개. Salesforce의 첫 자체 추론 모델.

» CrowdStrike(+3.0%)
CEO가 “AI 개발을 늦춰도 이미 위험한 모델은 존재한다”며 속도조절론에 반박. AI 안전 논쟁 속 사이버보안 수요 확대 기대로 강세.

» Oracle(-3.0%)
텍사스 AI 데이터센터 전력 수요를 지원하기 위해 총 1.7GW 이상의 풍력발전 프로젝트에 투자.

» Coinbase(-10.1%), Strategy(-5.4%)
Clarity Act 절차 표결 실패로 급락. 가상자산 산업의 규제 명확성 확보 기대가 크게 후퇴.

» Thermo Fisher Scientific(+4.6%)
Morgan Stanley 헬스케어 컨퍼런스에서 2026년 유기적 성장률 약 4% 전망을 재확인. 제약·바이오 투자 회복과 미국 내 의약품 생산 리쇼어링을 성장 동력으로 제시했으며, AI 역시 신약개발 투자와 실험 수요를 늘리는 순풍으로 평가.

OpenRouter 모델 지출, 2년 반 만에 OpenAI가 Anthropic 추월. 신형 모델 출시 이후 지출 점유율 급상승

- 출처: X(@OpenRouter)

이란전 장기화에 미 방산 공급망 병목 현실화

미 국방부 감찰관실이 이란전 첫 보고서를 공개, 전쟁 장기화에 따른 미군의 탄약 부족과 방산 공급망 병목을 공식 확인.

2월 28일 개전부터 6월 말까지 전쟁 비용은 약 334억달러, 이 중 223억달러가 탄약 소모.

특히 재보급 과정에서 고체 로켓모터 생산, 고성능 폭약·추진제 확보, 숙련 제조인력 부족이 주요 병목으로 지목.

장비 피해도 상당. F-15E 4대, F-35A 1대, KC-135 급유기 12대, MQ-9 드론 30대 이상 등 주요 항공전력 손실.

미 국방부는 무기 재고를 보충하기 위해 조달·생산기간 단축과 핵심 원자재·부품·탄약 비축 확대를 추진 중.

출처: NBC News

ETF 개인순매수/순매도 TOP10

출처: KOSCOM, 타임폴리오자산운용
기준: 2026년 9월 16일 장마감 기준