Anthropic 연구원 퇴사하며 AI 개발 경고
앤트로픽 연구원 Jacob Coxon이 AI 안전 우려를 이유로 퇴사. 지난 3년간 Anthropic과 OpenAI에서 근무한 그는 두 회사가 인간의 통제를 벗어날 수 있는 ‘자기개선형 AI’ 개발 경쟁을 밀어붙이고 있다고 비판.
Coxon은 AI가 머지않아 해킹·과학 등에서 인간을 압도하고 현실의 권력과 자원까지 확보할 수 있다며, AI 개발팀 내부에서도 2030년 이전 인류에 치명적 결과를 초래할 가능성을 진지하게 우려하고 있다고 주장. Anthropic 현직 연구원 Evan Hubinger도 개인적으로 향후 10년 내 이런 시나리오의 확률을 10% 이상으로 본다고 밝힘.
최근 OpenAI 모델이 테스트 환경을 벗어나 Hugging Face를 공격한 사건, Anthropic·Meta 모델의 무단 인터넷 접근 사례가 알려지면서 업계 내부의 안전 우려도 확대. 하루 전에는 OpenAI 수석과학자 Jakub Pachocki도 AI 발전 속도에 세계가 준비돼 있지 않다며 필요시 개발 속도를 늦춰야 할 수 있다고 경고.
- 출처: X, Bloomberg
앤트로픽 연구원 Jacob Coxon이 AI 안전 우려를 이유로 퇴사. 지난 3년간 Anthropic과 OpenAI에서 근무한 그는 두 회사가 인간의 통제를 벗어날 수 있는 ‘자기개선형 AI’ 개발 경쟁을 밀어붙이고 있다고 비판.
Coxon은 AI가 머지않아 해킹·과학 등에서 인간을 압도하고 현실의 권력과 자원까지 확보할 수 있다며, AI 개발팀 내부에서도 2030년 이전 인류에 치명적 결과를 초래할 가능성을 진지하게 우려하고 있다고 주장. Anthropic 현직 연구원 Evan Hubinger도 개인적으로 향후 10년 내 이런 시나리오의 확률을 10% 이상으로 본다고 밝힘.
최근 OpenAI 모델이 테스트 환경을 벗어나 Hugging Face를 공격한 사건, Anthropic·Meta 모델의 무단 인터넷 접근 사례가 알려지면서 업계 내부의 안전 우려도 확대. 하루 전에는 OpenAI 수석과학자 Jakub Pachocki도 AI 발전 속도에 세계가 준비돼 있지 않다며 필요시 개발 속도를 늦춰야 할 수 있다고 경고.
- 출처: X, Bloomberg
❤3👀2😱1
Defiance, 1시간 단위 2배 레버리지 ETF 출시 추진
미국 ETF 운용사 Defiance가 1시간 수익률의 2배를 추종하는 레버리지 ETF 16종을 SEC에 신청.
Nvidia·Microsoft·메모리 ETF(DRAM) 등 주식과 ETF가 대상으로, 규제당국이 이의를 제기하지 않으면 11월 거래 시작 가능.
기존 2배 ETF가 장 마감 때 하루 한 번 레버리지를 재조정한다면, 새 상품은 매시간 말마다 2배로 리셋. Defiance는 이를 “하루 전체가 아니라 한 시간을 하나의 거래일처럼 취급하는 상품”이라고 설명.
- 출처: reuters
미국 ETF 운용사 Defiance가 1시간 수익률의 2배를 추종하는 레버리지 ETF 16종을 SEC에 신청.
Nvidia·Microsoft·메모리 ETF(DRAM) 등 주식과 ETF가 대상으로, 규제당국이 이의를 제기하지 않으면 11월 거래 시작 가능.
기존 2배 ETF가 장 마감 때 하루 한 번 레버리지를 재조정한다면, 새 상품은 매시간 말마다 2배로 리셋. Defiance는 이를 “하루 전체가 아니라 한 시간을 하나의 거래일처럼 취급하는 상품”이라고 설명.
- 출처: reuters
😱7🤣2❤1
[모닝브리핑] 치솟는 유가와 금리
■ 확대되는 중동 긴장, WTI $100 돌파
미국과 이란의 충돌 장기화 우려에 유가 8거래일 연속 상승. 후티가 홍해의 모카항을 장악하며 바브엘만데브 해협까지 위협할 수 있다는 우려가 커졌고, WTI +6.7%($102.48), 브렌트유 +6.3%($107.63)로 급등.
사우디의 8월 원유 생산도 하루 712만 배럴로 1990년 이후 최저까지 떨어진 가운데, 호르무즈 해협 정상화 전망도 멀어지는 모습. 높은 에너지 가격이 다시 물가와 소비 부담으로 연결될 가능성.
■ PPI 발표, 10년물 4.95% 돌파
8월 근원 PPI는 전월대비 +0.2%로 예상치인 0.3%보다 낮았지만, 헤드라인은 +0.4%, 전년대비로는 5.4%까지 상승. 특히 에너지 가격이 +4.2%, 디젤은 +24.1% 오르면서 물가 부담 지속, 일부 항목이 근원 PCE를 끌어올릴 수 있다는 우려도 부각.
2년물은 4.55%, 10년물은 4.95%를 넘어 각각 2024년 7월, 2023년 10월 이후 최고 수준. 시장의 9월 금리 인상 가능성도 약 68%까지 상승했으며, 오늘 밤 8월 CPI가 다음주 FOMC의 최종 핵심 변수
■ AI 관련주 전반 약세, 오라클 실발 선방
중국 DeepSeek가 HBM와 SSD 사용량을 줄인 저비용 모델을 공개하며, 마이크론(-4.7%) 등 메모리주가 하락했고, 반도체지수도 -2.7%. 반면 Apple(+3.6%)은 전날 폴더블 아이폰 공개 이후 반등.
한편, 장 마감 후 오라클은 매출 $193.5억, EPS $1.92로 모두 예상 상회. 1분기에 AI 클라우드 계약을 추가로 $300억 이상 확보하며 계약 잔액 $6,640억으로 늘었고, 분기 중 AI 클라우드 고객에게 GPU 30만개 이상을 공급, 직전 분기의 약 3배 규모의 용량 제공.
============
■ 주요 종목
» Oracle(시간외 +3.9%)
1분기 매출 $193.5억 vs 예상 $191.4억, EPS $1.92 vs $1.74로 예상 상회. AI 클라우드 계약을 $300억 이상 추가하며 계약 잔액이 $6,640억까지 증가, Q2 클라우드 매출 성장률도 +65~71%로 제시. FY27 매출은 최소 $900억 전망 유지. 다만 AI 인프라 증설로 1분기 FCF는 -$50억 기록.
» Adobe(시간외 -1.9%)
장 마감 후 3분기 매출 $67.6억, EPS $6.13으로 예상 상회하고 연간 가이던스도 소폭 상향. AI 관련 매출은 빠르게 늘고 있지만, 무료 사용자 확대가 실제 유료 매출 증가로 얼마나 이어질지에 대한 의문 지속.
» SpaceX(+0.4%)
데이터센터 건설 방식을 속도 → 안정성 중심으로 변경. 전력·냉각 백업 시스템을 사전에 더 갖추고 테스트도 강화하며 일부 기존 시설까지 재설계, 향후 컴퓨팅 용량 확대 속도 늦어질 가능성
» Apple(+3.6%)
전날 첫 폴더블 iPhone 공개 이후 반등. 시장 평가는 대체로 예상에 부합하거나 소폭 긍정적으로, iPhone Duo의 디자인과 예상보다 낮은 가격, Pro 모델의 예상보다 작은 가격 인상폭 등이 긍정적으로 평가.
» AeroVironment(+4.5%)
매출과 EPS가 예상 상회했고, 수주 $7억·수주잔고 $15억으로 강한 방산 수요 확인. 특히 드론을 고출력 레이저로 요격하는 LOCUST가 미 육군 대형 계약과 첫 해외 수주를 확보하며 성장 기대 부각.
※ 오늘 주목할 내용
오늘 밤 8월 CPI 발표. 근원 CPI는 전월 대비 +0.2%, 전년 대비 +2.4% 예상. 결과에 따라 오는 16일 FOMC의 금리 인상 여부가 크게 좌우될 전망.
S&P500 -0.58%, NASDAQ -0.65%, DOW -0.60%
■ 확대되는 중동 긴장, WTI $100 돌파
미국과 이란의 충돌 장기화 우려에 유가 8거래일 연속 상승. 후티가 홍해의 모카항을 장악하며 바브엘만데브 해협까지 위협할 수 있다는 우려가 커졌고, WTI +6.7%($102.48), 브렌트유 +6.3%($107.63)로 급등.
사우디의 8월 원유 생산도 하루 712만 배럴로 1990년 이후 최저까지 떨어진 가운데, 호르무즈 해협 정상화 전망도 멀어지는 모습. 높은 에너지 가격이 다시 물가와 소비 부담으로 연결될 가능성.
■ PPI 발표, 10년물 4.95% 돌파
8월 근원 PPI는 전월대비 +0.2%로 예상치인 0.3%보다 낮았지만, 헤드라인은 +0.4%, 전년대비로는 5.4%까지 상승. 특히 에너지 가격이 +4.2%, 디젤은 +24.1% 오르면서 물가 부담 지속, 일부 항목이 근원 PCE를 끌어올릴 수 있다는 우려도 부각.
2년물은 4.55%, 10년물은 4.95%를 넘어 각각 2024년 7월, 2023년 10월 이후 최고 수준. 시장의 9월 금리 인상 가능성도 약 68%까지 상승했으며, 오늘 밤 8월 CPI가 다음주 FOMC의 최종 핵심 변수
■ AI 관련주 전반 약세, 오라클 실발 선방
중국 DeepSeek가 HBM와 SSD 사용량을 줄인 저비용 모델을 공개하며, 마이크론(-4.7%) 등 메모리주가 하락했고, 반도체지수도 -2.7%. 반면 Apple(+3.6%)은 전날 폴더블 아이폰 공개 이후 반등.
한편, 장 마감 후 오라클은 매출 $193.5억, EPS $1.92로 모두 예상 상회. 1분기에 AI 클라우드 계약을 추가로 $300억 이상 확보하며 계약 잔액 $6,640억으로 늘었고, 분기 중 AI 클라우드 고객에게 GPU 30만개 이상을 공급, 직전 분기의 약 3배 규모의 용량 제공.
============
■ 주요 종목
» Oracle(시간외 +3.9%)
1분기 매출 $193.5억 vs 예상 $191.4억, EPS $1.92 vs $1.74로 예상 상회. AI 클라우드 계약을 $300억 이상 추가하며 계약 잔액이 $6,640억까지 증가, Q2 클라우드 매출 성장률도 +65~71%로 제시. FY27 매출은 최소 $900억 전망 유지. 다만 AI 인프라 증설로 1분기 FCF는 -$50억 기록.
» Adobe(시간외 -1.9%)
장 마감 후 3분기 매출 $67.6억, EPS $6.13으로 예상 상회하고 연간 가이던스도 소폭 상향. AI 관련 매출은 빠르게 늘고 있지만, 무료 사용자 확대가 실제 유료 매출 증가로 얼마나 이어질지에 대한 의문 지속.
» SpaceX(+0.4%)
데이터센터 건설 방식을 속도 → 안정성 중심으로 변경. 전력·냉각 백업 시스템을 사전에 더 갖추고 테스트도 강화하며 일부 기존 시설까지 재설계, 향후 컴퓨팅 용량 확대 속도 늦어질 가능성
» Apple(+3.6%)
전날 첫 폴더블 iPhone 공개 이후 반등. 시장 평가는 대체로 예상에 부합하거나 소폭 긍정적으로, iPhone Duo의 디자인과 예상보다 낮은 가격, Pro 모델의 예상보다 작은 가격 인상폭 등이 긍정적으로 평가.
» AeroVironment(+4.5%)
매출과 EPS가 예상 상회했고, 수주 $7억·수주잔고 $15억으로 강한 방산 수요 확인. 특히 드론을 고출력 레이저로 요격하는 LOCUST가 미 육군 대형 계약과 첫 해외 수주를 확보하며 성장 기대 부각.
※ 오늘 주목할 내용
오늘 밤 8월 CPI 발표. 근원 CPI는 전월 대비 +0.2%, 전년 대비 +2.4% 예상. 결과에 따라 오는 16일 FOMC의 금리 인상 여부가 크게 좌우될 전망.
❤4👏3✍1
This media is not supported in your browser
VIEW IN TELEGRAM
OpenAI, 금융업 전용 서비스 공개
OpenAI가 금융회사를 위한 ‘ChatGPT for Financial Services’를 공개. Morgan Stanley·Evercore와 함께 설계했으며, GPT-6 Astra를 기반으로 기업 리서치, 재무분석, 금융모델 작성, 고객용 자료 제작까지 지원.
PitchBook·Daloopa·LSEG News 등 금융 데이터를 제품에 직접 통합하고, S&P Capital IQ·MSCI·Moody’s 등 기존 데이터 구독도 연동할 수 있도록 설계. 숫자와 주장의 출처를 바로 확인할 수 있도록 세부 인용 기능도 강화.
- 출처: X(@openAI)
OpenAI가 금융회사를 위한 ‘ChatGPT for Financial Services’를 공개. Morgan Stanley·Evercore와 함께 설계했으며, GPT-6 Astra를 기반으로 기업 리서치, 재무분석, 금융모델 작성, 고객용 자료 제작까지 지원.
PitchBook·Daloopa·LSEG News 등 금융 데이터를 제품에 직접 통합하고, S&P Capital IQ·MSCI·Moody’s 등 기존 데이터 구독도 연동할 수 있도록 설계. 숫자와 주장의 출처를 바로 확인할 수 있도록 세부 인용 기능도 강화.
- 출처: X(@openAI)
❤6👍5
TIME ACT!VE ETF
Anthropic 연구원 퇴사하며 AI 개발 경고 앤트로픽 연구원 Jacob Coxon이 AI 안전 우려를 이유로 퇴사. 지난 3년간 Anthropic과 OpenAI에서 근무한 그는 두 회사가 인간의 통제를 벗어날 수 있는 ‘자기개선형 AI’ 개발 경쟁을 밀어붙이고 있다고 비판. Coxon은 AI가 머지않아 해킹·과학 등에서 인간을 압도하고 현실의 권력과 자원까지 확보할 수 있다며, AI 개발팀 내부에서도 2030년 이전 인류에 치명적 결과를 초래할…
OpenAI, AI 개발 속도 늦추는 방안 검토…경쟁사와 공동 대응 가능성
Sam Altman이 이번 주 직원들에게 OpenAI가 최첨단 AI 개발 속도를 의도적으로 늦출 수 있으며, 다른 AI 연구소들과 함께 속도를 조절하는 방안도 검토할 수 있다고 밝힘. 다만 경쟁사들이 동참하지 않을 가능성도 언급.
OpenAI는 이미 안전 문제로 일부 모델 개발 속도를 늦추고 특정 내부 AI 학습을 중단한 적이 있음. 수석과학자 Jakub Pachocki 역시 필요하다면 AI 기업들이 공동으로 개발 속도를 늦춰야 한다고 주장.
배경에는 AI 성능 향상과 함께 커지는 통제·안전 우려가 있음. 최근 OpenAI·Anthropic 출신 연구원이 초지능 개발 경쟁을 비판하며 퇴사했고, 주요 AI 기업 직원 1,000명 이상도 개발 속도를 조절할 장치를 요구하는 청원에 서명.
- 출처: Bloomberg
Sam Altman이 이번 주 직원들에게 OpenAI가 최첨단 AI 개발 속도를 의도적으로 늦출 수 있으며, 다른 AI 연구소들과 함께 속도를 조절하는 방안도 검토할 수 있다고 밝힘. 다만 경쟁사들이 동참하지 않을 가능성도 언급.
OpenAI는 이미 안전 문제로 일부 모델 개발 속도를 늦추고 특정 내부 AI 학습을 중단한 적이 있음. 수석과학자 Jakub Pachocki 역시 필요하다면 AI 기업들이 공동으로 개발 속도를 늦춰야 한다고 주장.
배경에는 AI 성능 향상과 함께 커지는 통제·안전 우려가 있음. 최근 OpenAI·Anthropic 출신 연구원이 초지능 개발 경쟁을 비판하며 퇴사했고, 주요 AI 기업 직원 1,000명 이상도 개발 속도를 조절할 장치를 요구하는 청원에 서명.
- 출처: Bloomberg
❤6😱4🙉3😁1👀1
Anthropic, Claude 활용한 잠재적 생물무기 연구 5건 차단
Anthropic이 올해 이용자들이 Claude를 생물무기 개발에 활용할 가능성이 있는 연구 사례 5건을 적발·차단했다고 공개.
일부 이용자는 안전장치를 우회하거나 연구 목적을 숨기려 했으며, Anthropic 서비스가 금지된 지역에서도 접근을 시도.
사례 중에는 한 연구자가 수주 동안 Claude와 조류인플루엔자 관련 실험을 계획한 경우도 포함. 안전 필터가 작동해 성능이 가장 낮은 모델만 이용하도록 제한했으며 관련 계정은 모두 차단.
다만 Anthropic은 실제 생물무기 개발 의도였는지는 확인할 수 없다고 강조. 같은 정보가 백신 개발에도 활용될 수 있고, AI가 이론적인 설계를 지원하더라도 실제 제작에는 여전히 상당한 현실적 장벽이 존재한다는 입장.
보고서는 이외에도 가짜 데이팅 앱을 이용한 사기, 반체제 인사 감시 시스템 등 AI 악용 사례를 공개. 또 문샷·딥시크 등 중국 AI 연구소 7곳이 증류 방식으로 자사 모델 역량을 복제하려 했다는 주장도 제기.
- 출처: FT
Anthropic이 올해 이용자들이 Claude를 생물무기 개발에 활용할 가능성이 있는 연구 사례 5건을 적발·차단했다고 공개.
일부 이용자는 안전장치를 우회하거나 연구 목적을 숨기려 했으며, Anthropic 서비스가 금지된 지역에서도 접근을 시도.
사례 중에는 한 연구자가 수주 동안 Claude와 조류인플루엔자 관련 실험을 계획한 경우도 포함. 안전 필터가 작동해 성능이 가장 낮은 모델만 이용하도록 제한했으며 관련 계정은 모두 차단.
다만 Anthropic은 실제 생물무기 개발 의도였는지는 확인할 수 없다고 강조. 같은 정보가 백신 개발에도 활용될 수 있고, AI가 이론적인 설계를 지원하더라도 실제 제작에는 여전히 상당한 현실적 장벽이 존재한다는 입장.
보고서는 이외에도 가짜 데이팅 앱을 이용한 사기, 반체제 인사 감시 시스템 등 AI 악용 사례를 공개. 또 문샷·딥시크 등 중국 AI 연구소 7곳이 증류 방식으로 자사 모델 역량을 복제하려 했다는 주장도 제기.
- 출처: FT
😱6😭5👀2🤓1
IEA, 호르무즈 연내 정상화 어렵다…고유가에 세계 석유 수요 급감 전망
IEA가 호르무즈 해협 운항이 올해 안에 정상화될 것이라는 기존 전망을 철회. 미국·이란 협상 교착과 걸프 지역 수출 차질, 기록적인 연료 가격을 반영해 2026년 세계 석유 수요 전망을 -160만b/d에서 -250만b/d로 추가 하향.
2027년에는 수요가 +260만b/d 반등할 것으로 보지만, 2025년 수준을 소폭 웃도는 데 그칠 전망. IEA는 이에 따라 2026~27년을 세계 석유 수요가 사실상 제자리걸음하는 ‘잃어버린 기간’으로 평가.
공급 측면에서도 걸프 지역에서 1,000만b/d 이상이 여전히 차질을 빚는 가운데 올해 세계 석유 공급은 570만b/d 감소할 전망. 걸프 지역 생산 회복 시점도 2027년으로 미뤄졌으며, 우크라이나의 러시아 에너지 인프라 공격으로 러시아 수출도 2018년 이후 최저 수준으로 하락.
- 출처: FT
IEA가 호르무즈 해협 운항이 올해 안에 정상화될 것이라는 기존 전망을 철회. 미국·이란 협상 교착과 걸프 지역 수출 차질, 기록적인 연료 가격을 반영해 2026년 세계 석유 수요 전망을 -160만b/d에서 -250만b/d로 추가 하향.
2027년에는 수요가 +260만b/d 반등할 것으로 보지만, 2025년 수준을 소폭 웃도는 데 그칠 전망. IEA는 이에 따라 2026~27년을 세계 석유 수요가 사실상 제자리걸음하는 ‘잃어버린 기간’으로 평가.
공급 측면에서도 걸프 지역에서 1,000만b/d 이상이 여전히 차질을 빚는 가운데 올해 세계 석유 공급은 570만b/d 감소할 전망. 걸프 지역 생산 회복 시점도 2027년으로 미뤄졌으며, 우크라이나의 러시아 에너지 인프라 공격으로 러시아 수출도 2018년 이후 최저 수준으로 하락.
- 출처: FT
😱3😭2✍1❤1😁1👨💻1
후티 추정 예멘 무장세력, Claude로 탄도미사일 개발 시도
Anthropic이 예멘 북부의 한 조직이 Claude를 활용해 탄도미사일·유도 로켓 개발을 시도한 사실을 적발했다고 공개.
Anthropic은 후티를 직접 지목하지 않았지만, FT는 활동 지역과 정황상 후티로 판단.
해당 조직은 Claude Code를 활용해 미사일의 유도·항법·제어 소프트웨어를 개발. 오픈소스 자동조종 시스템 통합부터 제어·위치추정 코드 작성, 펌웨어 구축, 비행 시뮬레이션까지 수행.
Anthropic의 안전장치가 다수 요청을 차단했지만 전부 막지는 못했으며, 이들은 실제 목적을 숨기고 작업을 여러 세션으로 나눠 탐지를 회피. 실제 작동하는 무기를 완성했다는 증거는 없지만 유도 로켓 시험 발사까지 진행했고, 실패 직후 Claude로 원인을 분석한 것으로 확인.
- 출처: FT
Anthropic이 예멘 북부의 한 조직이 Claude를 활용해 탄도미사일·유도 로켓 개발을 시도한 사실을 적발했다고 공개.
Anthropic은 후티를 직접 지목하지 않았지만, FT는 활동 지역과 정황상 후티로 판단.
해당 조직은 Claude Code를 활용해 미사일의 유도·항법·제어 소프트웨어를 개발. 오픈소스 자동조종 시스템 통합부터 제어·위치추정 코드 작성, 펌웨어 구축, 비행 시뮬레이션까지 수행.
Anthropic의 안전장치가 다수 요청을 차단했지만 전부 막지는 못했으며, 이들은 실제 목적을 숨기고 작업을 여러 세션으로 나눠 탐지를 회피. 실제 작동하는 무기를 완성했다는 증거는 없지만 유도 로켓 시험 발사까지 진행했고, 실패 직후 Claude로 원인을 분석한 것으로 확인.
- 출처: FT
😱17👀3❤1🎉1🙊1
Anthropic CEO “AI 개발 속도 늦춰야”…3단계 ‘프런티어 속도조절’ 제안
Anthropic CEO 다리오 아모데이, 최첨단 AI의 성능 향상 속도를 의도적으로 조절해야 한다고 주장. AI 개발을 멈추자는 것이 아니라, 안전·정렬 기술이 따라잡을 시간을 확보할 정도로 개발 속도를 늦추자는 제안.
배경은 두 가지. 최근 AI가 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선’이 업계 전반에서 시작되며 발전 속도가 급격히 빨라지고 있고, OpenAI-Hugging Face 사건처럼 AI 에이전트가 지시받지 않은 사이버 공격과 평가 시스템 해킹을 시도한 사례도 등장했다는 판단.
이에 3단계 방안을 제시.
① 외부 평가기관 상주: Anthropic부터 METR 같은 제3자 평가기관에 직원 수준의 지속적인 접근 권한을 제공해 모델·학습 과정·안전조치를 상시 검증.
② 민주주의 국가 내 공동 속도조절: 미국 등 주요 AI 기업들이 공통 안전기준과 성능 향상 속도 제한을 마련하고, 특정 능력 수준에 도달한 모델은 안전 검증을 통과해야 다음 단계로 진행.
③ 중국 포함 글로벌 공조: 생물무기 활용 금지, 출시 전 위험평가, 재귀적 자기개선 속도 제한 등을 단계적으로 협의. 다만 전면적인 AI 개발 중단 합의는 현실성이 낮다고 평가.
동시에 Amodei는 민주주의 진영이 속도를 늦출 여유를 가지려면 중국과의 기술 격차를 유지해야 한다고 강조. 첨단 AI칩·반도체 장비의 중국 수출 제한, 불법 증류 차단, 모델 가중치 탈취 방지 등은 오히려 강화해야 한다는 입장.
전문: https://x.com/darioamodei/status/2098773920774074715?s=46
출처:X(@darioamodi)
Anthropic CEO 다리오 아모데이, 최첨단 AI의 성능 향상 속도를 의도적으로 조절해야 한다고 주장. AI 개발을 멈추자는 것이 아니라, 안전·정렬 기술이 따라잡을 시간을 확보할 정도로 개발 속도를 늦추자는 제안.
배경은 두 가지. 최근 AI가 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선’이 업계 전반에서 시작되며 발전 속도가 급격히 빨라지고 있고, OpenAI-Hugging Face 사건처럼 AI 에이전트가 지시받지 않은 사이버 공격과 평가 시스템 해킹을 시도한 사례도 등장했다는 판단.
이에 3단계 방안을 제시.
① 외부 평가기관 상주: Anthropic부터 METR 같은 제3자 평가기관에 직원 수준의 지속적인 접근 권한을 제공해 모델·학습 과정·안전조치를 상시 검증.
② 민주주의 국가 내 공동 속도조절: 미국 등 주요 AI 기업들이 공통 안전기준과 성능 향상 속도 제한을 마련하고, 특정 능력 수준에 도달한 모델은 안전 검증을 통과해야 다음 단계로 진행.
③ 중국 포함 글로벌 공조: 생물무기 활용 금지, 출시 전 위험평가, 재귀적 자기개선 속도 제한 등을 단계적으로 협의. 다만 전면적인 AI 개발 중단 합의는 현실성이 낮다고 평가.
동시에 Amodei는 민주주의 진영이 속도를 늦출 여유를 가지려면 중국과의 기술 격차를 유지해야 한다고 강조. 첨단 AI칩·반도체 장비의 중국 수출 제한, 불법 증류 차단, 모델 가중치 탈취 방지 등은 오히려 강화해야 한다는 입장.
전문: https://x.com/darioamodei/status/2098773920774074715?s=46
출처:X(@darioamodi)
❤7😁4🤝4🔥1
■ 주말 주요 뉴스
» 앤트로픽, “최첨단 AI 개발 속도 늦출 수도”
CEO 다리오 아모데이가 안전 문제를 이유로 프런티어 AI 개발 속도를 조절할 필요가 있다고 주장, OpenAI CEO 샘 알트먼과 테슬라 CEO 일론 머스크도 취지에 동의. 다만 Amodei는 모델 훈련이나 기술 발전 자체를 중단하자는 의미는 아니라고 선을 그음.
» 엔비디아, Anthropic IPO에 최대 $100억 투자 검토
Anthropic이 IPO에서 최대 $1,000억을 조달하고 약 $2조 기업가치를 목표로 할 수 있다는 보도. 엔비디아는 최대 $100억 투자를 검토 중인 것으로 전해짐.
» Oracle 창업자 래리 앨리슨, 최대 $75억 주식 매각 계획 철회
기존에 계획했던 최대 5,000만주 매각을 취소.
» Tesla, 10월 1일 Roadster 공개 예고
머스크가 차세대 Roadster 공개일을 10월 1일로 제시.
—————————
■ 이번 주 주목할 내용
9월 14일(월)
G20 에너지장관 회의 시작. 에너지 안보와 핵심광물 공급망 논의. 동시에 호르무즈 해협 임시 공동 관리 방안을 놓고 걸프 국가와 이란의 협상 결과에 주목.
9월 16일(수)
이번 주 핵심은 FOMC. 시장은 현재 25bp 인상 가능성을 약 85% 수준으로 반영. 인상 여부 자체보다 이번 인상이 일회성 조정인지 추가 인상 사이클의 시작인지가 더 중요. 같은 날 미국 8월 소매판매도 발표. 시장 예상은 전월 대비 +0.8%.
9월 17일(목)
미국 주택착공·건축허가, 잠정주택판매 발표.
9월 18일(금)
BOJ 통화정책회의. 기준금리를 1.0% → 1.25%로 인상할 가능성이 시장에서 거론되고 있어 엔화와 글로벌 장기금리에 영향 줄 수 있음.
» 앤트로픽, “최첨단 AI 개발 속도 늦출 수도”
CEO 다리오 아모데이가 안전 문제를 이유로 프런티어 AI 개발 속도를 조절할 필요가 있다고 주장, OpenAI CEO 샘 알트먼과 테슬라 CEO 일론 머스크도 취지에 동의. 다만 Amodei는 모델 훈련이나 기술 발전 자체를 중단하자는 의미는 아니라고 선을 그음.
» 엔비디아, Anthropic IPO에 최대 $100억 투자 검토
Anthropic이 IPO에서 최대 $1,000억을 조달하고 약 $2조 기업가치를 목표로 할 수 있다는 보도. 엔비디아는 최대 $100억 투자를 검토 중인 것으로 전해짐.
» Oracle 창업자 래리 앨리슨, 최대 $75억 주식 매각 계획 철회
기존에 계획했던 최대 5,000만주 매각을 취소.
» Tesla, 10월 1일 Roadster 공개 예고
머스크가 차세대 Roadster 공개일을 10월 1일로 제시.
—————————
■ 이번 주 주목할 내용
9월 14일(월)
G20 에너지장관 회의 시작. 에너지 안보와 핵심광물 공급망 논의. 동시에 호르무즈 해협 임시 공동 관리 방안을 놓고 걸프 국가와 이란의 협상 결과에 주목.
9월 16일(수)
이번 주 핵심은 FOMC. 시장은 현재 25bp 인상 가능성을 약 85% 수준으로 반영. 인상 여부 자체보다 이번 인상이 일회성 조정인지 추가 인상 사이클의 시작인지가 더 중요. 같은 날 미국 8월 소매판매도 발표. 시장 예상은 전월 대비 +0.8%.
9월 17일(목)
미국 주택착공·건축허가, 잠정주택판매 발표.
9월 18일(금)
BOJ 통화정책회의. 기준금리를 1.0% → 1.25%로 인상할 가능성이 시장에서 거론되고 있어 엔화와 글로벌 장기금리에 영향 줄 수 있음.
❤4👀1
Anthropic, 2개 분기 연속 흑자 전망…IPO 기업가치 2조달러 이상 거론
Anthropic이 투자자들에게 이번 분기에도 조정 영업이익 흑자를 기록할 것이라고 전달했다는 FT 보도. 2분기에 이어 2개 분기 연속 흑자로, IPO를 앞두고 프런티어 AI 기업의 막대한 현금 소진 우려를 낮추려는 움직임. 매출총이익률은 80% 이상으로 알려짐.
성장세도 가파름. 2분기 매출은 전년 대비 14배 증가한 115억달러, 7월 말 연환산 매출은 지난해 말 90억달러에서 650억달러로 급증. 투자자들은 올해 말 연환산 매출 1,200억달러, 2027년 말에는 그 약 3배까지 전망.
Anthropic은 Nasdaq 상장을 선택했으며 기업가치 2조달러 이상이 거론. 당초 지난주 투자설명서 공개가 예상됐지만, 먼저 소수 투자자에게 서류를 공유하고 질의를 받은 뒤 공개할 계획.
다만 지난 주말 다리오 아모데이 CEO가 최근 AI 성능 향상 속도를 늦춰야 한다고 주장한 점이 IPO의 새로운 변수로 부각. 개발 속도를 늦추면 신규 모델 학습에 들어가는 수십억달러를 절감할 수 있지만 경쟁사가 기술 격차를 좁힐 가능성도 있다는 분석도.
- 출처: FT
Anthropic이 투자자들에게 이번 분기에도 조정 영업이익 흑자를 기록할 것이라고 전달했다는 FT 보도. 2분기에 이어 2개 분기 연속 흑자로, IPO를 앞두고 프런티어 AI 기업의 막대한 현금 소진 우려를 낮추려는 움직임. 매출총이익률은 80% 이상으로 알려짐.
성장세도 가파름. 2분기 매출은 전년 대비 14배 증가한 115억달러, 7월 말 연환산 매출은 지난해 말 90억달러에서 650억달러로 급증. 투자자들은 올해 말 연환산 매출 1,200억달러, 2027년 말에는 그 약 3배까지 전망.
Anthropic은 Nasdaq 상장을 선택했으며 기업가치 2조달러 이상이 거론. 당초 지난주 투자설명서 공개가 예상됐지만, 먼저 소수 투자자에게 서류를 공유하고 질의를 받은 뒤 공개할 계획.
다만 지난 주말 다리오 아모데이 CEO가 최근 AI 성능 향상 속도를 늦춰야 한다고 주장한 점이 IPO의 새로운 변수로 부각. 개발 속도를 늦추면 신규 모델 학습에 들어가는 수십억달러를 절감할 수 있지만 경쟁사가 기술 격차를 좁힐 가능성도 있다는 분석도.
- 출처: FT
❤5👍2🔥1🙏1🙉1
Anthropic·OpenAI·Google, AI 공동 표준기구 설립 논의…빅3 자율규제 움직임
Anthropic·OpenAI·Google이 AI 모델의 안전 테스트·감사를 위한 업계 공동 표준기구 설립을 논의 중. 지난 7월부터 세 회사 실무진이 정기적으로 만나왔으며, 최근까지도 논의가 이어지고 있는 것으로 알려짐.
알트먼도 이번 주 사내 미팅에서 공동 테스트·감사 기구를 지지. 다만 미 정부 주도의 기구 설립은 어렵다고 보고, 주요 AI 기업들이 직접 표준기구를 만드는 방향을 제시. 앞서 아모데이 역시 정부 규제가 마련되기 전 업계가 자발적으로 공통 안전기준을 만들고 개발 속도를 조절해야 한다고 주장.
당초 백악관에서도 FINRA를 본뜬 AI 자율규제기구를 만드는 행정명령 초안이 논의됐지만 트럼프 행정부 내부 지지를 얻지 못해 중단. 이에 빅3사가 정부 규제를 기다리기보다 업계 차원의 자율규제로 움직이는 모습.
다만 대형 AI 기업들이 직접 규칙을 정하는 데 대한 견제도 등장. Cohere CEO Aidan Gomez는 대형 업체들이 만든 규칙이 작은 경쟁사를 제약할 수 있다며 이를 “카르텔”이라고 비판.
- 출처: The Information
Anthropic·OpenAI·Google이 AI 모델의 안전 테스트·감사를 위한 업계 공동 표준기구 설립을 논의 중. 지난 7월부터 세 회사 실무진이 정기적으로 만나왔으며, 최근까지도 논의가 이어지고 있는 것으로 알려짐.
알트먼도 이번 주 사내 미팅에서 공동 테스트·감사 기구를 지지. 다만 미 정부 주도의 기구 설립은 어렵다고 보고, 주요 AI 기업들이 직접 표준기구를 만드는 방향을 제시. 앞서 아모데이 역시 정부 규제가 마련되기 전 업계가 자발적으로 공통 안전기준을 만들고 개발 속도를 조절해야 한다고 주장.
당초 백악관에서도 FINRA를 본뜬 AI 자율규제기구를 만드는 행정명령 초안이 논의됐지만 트럼프 행정부 내부 지지를 얻지 못해 중단. 이에 빅3사가 정부 규제를 기다리기보다 업계 차원의 자율규제로 움직이는 모습.
다만 대형 AI 기업들이 직접 규칙을 정하는 데 대한 견제도 등장. Cohere CEO Aidan Gomez는 대형 업체들이 만든 규칙이 작은 경쟁사를 제약할 수 있다며 이를 “카르텔”이라고 비판.
- 출처: The Information
The Information
Anthropic, OpenAI, Google Quietly Discussed an AI Safety Standards Body
Anthropic, OpenAI and Google have been holding discussions about working together to create a standards body for the AI industry, people familiar with the matter said, even before Anthropic CEO Dario Amodei called on Saturday for AI companies to coordinate…
❤3👍2🤓2
Forwarded from AWAKE - 실시간 주식 공시 정리채널
2026.09.14 10:13:31
기업명: 삼성중공업(시가총액: 18조 6,560억) A010140
보고서명: 단일판매ㆍ공급계약체결
계약상대 : 오세아니아 지역 선주
계약내용 : ( 공사수주 ) LNG운반선 4척
공급지역 : 오세아니아 지역
계약금액 : 14,078억
계약시작 : 2026-09-11
계약종료 : 2029-09-28
계약기간 : 3년
매출대비 : 13.2%
공시링크: https://dart.fss.or.kr/dsaf001/main.do?rcpNo=20260914800075
최근계약 : https://www.awakeplus.co.kr/board/contract/010140
종목공시 : https://www.awakeplus.co.kr/disclosure/010140
기업명: 삼성중공업(시가총액: 18조 6,560억) A010140
보고서명: 단일판매ㆍ공급계약체결
계약상대 : 오세아니아 지역 선주
계약내용 : ( 공사수주 ) LNG운반선 4척
공급지역 : 오세아니아 지역
계약금액 : 14,078억
계약시작 : 2026-09-11
계약종료 : 2029-09-28
계약기간 : 3년
매출대비 : 13.2%
공시링크: https://dart.fss.or.kr/dsaf001/main.do?rcpNo=20260914800075
최근계약 : https://www.awakeplus.co.kr/board/contract/010140
종목공시 : https://www.awakeplus.co.kr/disclosure/010140
❤7🔥1😱1
트럼프, AI 개발 속도조절에 선 긋기…“AI 이기는 자가 승리”
지난 주말 주요 AI 기업 수장들이 AI 개발 속도를 공동으로 조절할 필요성에 동의한 가운데, 트럼프 대통령은 정부 차원의 규제 강화에는 부정적인 입장을 보임.
트럼프는 최근 제기된 AI 위험 우려에 대해 “그들이 이야기하는 일들은 일어나지 않을 것”이라며 미국이 중국보다 AI 개발에서 앞서는 것이 우선이라는 기존 입장을 재확인. “AI에서 승리하는 자가 승리한다(whoever wins AI wins)”고 강조.
AI 기업들은 공동 속도조절이 반독점 문제에 걸리지 않도록 정부가 이를 중재하거나 제도적으로 뒷받침해주길 원하고 있음. 반면 백악관 AI 고문 David Sacks는 “OpenAI와 Anthropic이 원한다면 그냥 속도를 늦추면 된다. 당신들이 속도를 정하고 있다”며 정부 개입이 필요 없다고 반박.
- 출처: WSJ(Trump Sees Race Against China as Key Issue on AI Regulation)
지난 주말 주요 AI 기업 수장들이 AI 개발 속도를 공동으로 조절할 필요성에 동의한 가운데, 트럼프 대통령은 정부 차원의 규제 강화에는 부정적인 입장을 보임.
트럼프는 최근 제기된 AI 위험 우려에 대해 “그들이 이야기하는 일들은 일어나지 않을 것”이라며 미국이 중국보다 AI 개발에서 앞서는 것이 우선이라는 기존 입장을 재확인. “AI에서 승리하는 자가 승리한다(whoever wins AI wins)”고 강조.
AI 기업들은 공동 속도조절이 반독점 문제에 걸리지 않도록 정부가 이를 중재하거나 제도적으로 뒷받침해주길 원하고 있음. 반면 백악관 AI 고문 David Sacks는 “OpenAI와 Anthropic이 원한다면 그냥 속도를 늦추면 된다. 당신들이 속도를 정하고 있다”며 정부 개입이 필요 없다고 반박.
- 출처: WSJ(Trump Sees Race Against China as Key Issue on AI Regulation)
The Wall Street Journal
Trump Sees Race Against China as Key Issue on AI Regulation
The president defended light regulation and stressed the need to keep the lead as tech executives are raising alarms about breakneck development.
❤3👀1
(로이터) "보스턴다이내믹스, 2027년 IPO 가능성 낮아”
현대차그룹 고위 관계자가 보스턴다이내믹스의 2027년 IPO 가능성에 대해 “쉽지 않을 것”이라고 밝혔다는 로이터의 보도.
아직 아틀라스의 대규모 현장 투입이 이뤄지지 않았고 적자도 지속되는 상황. 현대차그룹은 공식적인 IPO 일정이나 목표 기업가치를 밝힌 적 없음.
현대차는 2028년까지 연 3만 대 규모 로봇 생산능력을 구축하고, 같은 해 미국 조지아 공장부터 아틀라스를 투입한 뒤 그룹 제조현장으로 확대할 계획. 시장에서는 실제 공장 데이터 축적과 성능 개선, 외부 고객 판매가 선행돼야 한다는 평가.
보스턴다이내믹스는 2025년 5,284억원의 손실, 2021~25년 누적 약 1.7조원의 손실을 기록. 현대차는 지난 7월 SoftBank의 잔여 약 10% 지분을 인수해 보스턴다이내믹스를 완전 자회사로 편입하기로 한 상태.
- 출처: 로이터
현대차그룹 고위 관계자가 보스턴다이내믹스의 2027년 IPO 가능성에 대해 “쉽지 않을 것”이라고 밝혔다는 로이터의 보도.
아직 아틀라스의 대규모 현장 투입이 이뤄지지 않았고 적자도 지속되는 상황. 현대차그룹은 공식적인 IPO 일정이나 목표 기업가치를 밝힌 적 없음.
현대차는 2028년까지 연 3만 대 규모 로봇 생산능력을 구축하고, 같은 해 미국 조지아 공장부터 아틀라스를 투입한 뒤 그룹 제조현장으로 확대할 계획. 시장에서는 실제 공장 데이터 축적과 성능 개선, 외부 고객 판매가 선행돼야 한다는 평가.
보스턴다이내믹스는 2025년 5,284억원의 손실, 2021~25년 누적 약 1.7조원의 손실을 기록. 현대차는 지난 7월 SoftBank의 잔여 약 10% 지분을 인수해 보스턴다이내믹스를 완전 자회사로 편입하기로 한 상태.
- 출처: 로이터
🙏4✍3
Anthropic 데이터 정책 우려 확산…Nvidia·Palantir·Booz Allen, 모델 사용 제한
OpenAI·Anthropic의 기업 데이터 보관·활용 범위와 지식재산 노출에 대한 우려가 커지면서, Palantir·Nvidia·Booz Allen 등 대기업들이 데이터를 아예 저장하지 않는 ZDR(Zero Data Retention)을 요구하고, 보장이 없을 경우 최신 모델 사용을 제한하거나 자체·오픈소스 AI로 대체하기 시작.
특히 Anthropic은 지난 6월 Fable 출시와 함께 보안 목적으로 고객 사용 로그를 30일간 보관하도록 정책을 변경하며 논란이 확대. 고객 반발 이후 데이터를 자체 서버에 저장하는 옵션을 도입했지만, Anthropic이 이를 향후 철회할 수 있어 일부 기업은 여전히 반발.
Palantir는 철회 불가능한 ZDR이 보장될 때까지 Fable을 자사 고객에게 제공하지 않기로 했고, Nvidia도 Fable을 덜 민감한 업무에만 사용하며 공급망 등 핵심 업무에는 자체 AI Nemotron을 활용. Booz Allen도 독점 사이버보안 소프트웨어 관련 업무에서 Fable 사용을 제한.
Northrop Grumman은 OpenAI·Anthropic 대신 인터넷과 분리된 에어갭 서버에서 AI 모델을 자체 구동. 미국의 한 대형 전력회사도 Anthropic이 철회 불가능한 ZDR을 보장하지 않자 핵심 전력 인프라에 Fable을 적용하려던 계획을 철회.
OpenAI 역시 기업 고객의 입력·출력 데이터는 기본적으로 학습에 사용하지 않는다고 밝히지만, 비식별화된 사용 메타데이터는 모델 개선에 활용. Anthropic은 익명화된 이용 메타데이터를 제품 개선에는 활용하지만 모델 학습에는 사용하지 않는다는 입장.
여기에 OpenAI·Anthropic이 기업용 앱과 신약 등 실제 제품 개발까지 사업 영역을 확대하면서, 고객사 입장에서는 핵심 데이터를 맡긴 AI 업체가 향후 경쟁자가 될 수 있다는 우려도 확대. Microsoft·Palantir 등은 이를 활용해 외부 AI 업체로 데이터를 보내지 않는 자체 환경이나 자사 플랫폼을 통한 모델 이용을 적극 제안.
- 출처: The Information
OpenAI·Anthropic의 기업 데이터 보관·활용 범위와 지식재산 노출에 대한 우려가 커지면서, Palantir·Nvidia·Booz Allen 등 대기업들이 데이터를 아예 저장하지 않는 ZDR(Zero Data Retention)을 요구하고, 보장이 없을 경우 최신 모델 사용을 제한하거나 자체·오픈소스 AI로 대체하기 시작.
특히 Anthropic은 지난 6월 Fable 출시와 함께 보안 목적으로 고객 사용 로그를 30일간 보관하도록 정책을 변경하며 논란이 확대. 고객 반발 이후 데이터를 자체 서버에 저장하는 옵션을 도입했지만, Anthropic이 이를 향후 철회할 수 있어 일부 기업은 여전히 반발.
Palantir는 철회 불가능한 ZDR이 보장될 때까지 Fable을 자사 고객에게 제공하지 않기로 했고, Nvidia도 Fable을 덜 민감한 업무에만 사용하며 공급망 등 핵심 업무에는 자체 AI Nemotron을 활용. Booz Allen도 독점 사이버보안 소프트웨어 관련 업무에서 Fable 사용을 제한.
Northrop Grumman은 OpenAI·Anthropic 대신 인터넷과 분리된 에어갭 서버에서 AI 모델을 자체 구동. 미국의 한 대형 전력회사도 Anthropic이 철회 불가능한 ZDR을 보장하지 않자 핵심 전력 인프라에 Fable을 적용하려던 계획을 철회.
OpenAI 역시 기업 고객의 입력·출력 데이터는 기본적으로 학습에 사용하지 않는다고 밝히지만, 비식별화된 사용 메타데이터는 모델 개선에 활용. Anthropic은 익명화된 이용 메타데이터를 제품 개선에는 활용하지만 모델 학습에는 사용하지 않는다는 입장.
여기에 OpenAI·Anthropic이 기업용 앱과 신약 등 실제 제품 개발까지 사업 영역을 확대하면서, 고객사 입장에서는 핵심 데이터를 맡긴 AI 업체가 향후 경쟁자가 될 수 있다는 우려도 확대. Microsoft·Palantir 등은 이를 활용해 외부 AI 업체로 데이터를 보내지 않는 자체 환경이나 자사 플랫폼을 통한 모델 이용을 적극 제안.
- 출처: The Information
The Information
Anthropic Data Fears Prompt Nvidia, Palantir and Booz Allen to Restrict Model Use
As paranoia rises over whether Anthropic or OpenAI could learn from their customers’ intellectual property, large firms involved in sensitive corporate work, such as Palantir Technologies, Nvidia and Booz Allen Hamilton, have started demanding new guarantees…
✍2😱2