2022년 이전에는 석탄이나 석유와 원자력으로 내연기관이나 모터로 물리적 힘을 얻었다면 이후에는 옩갖 에너지로 지능을 얻는 시대가 됐다 지능이 돈으로 살 수 있는 자원이 된 것이다

- 리처드 도킨스, 세계지식포럼에서
그는 인류 역사에 결정적 영향을 미쳤던 '프로메테우스의 순간'을 꼽으며 강연을 시작했다. 도킨스 교수는 △언어의 탄생 △인쇄술 △인터넷 등이 진화의 거대한 분수령이었다고 평가한 뒤 "AI 역시 엄청난 혁신이다.

1. 불
2. 언어
3. 인쇄술
4. 인터넷
5. AI

AI는 인류 진화 역사에서 진짜 그 정도 되는 것 같습니다.😀😀😀

>>67% 폭락 후 재기! 아셴브레너, 시장 복귀해 SK하이닉스·AMD 등에 베팅

•언론 보도에 따르면 레오폴드 아셴브레너가 이끄는 헤지펀드 Situational Awareness가 옵션 시장에 복귀해 수억 달러 규모의 옵션을 매입, SK하이닉스, 샌디스크, AMD, Bloom Energy, 오라클 등이 투자 대상에 포함. 이번 포지션 구축 전략은 낮은 레버리지로 전환했으며, 맞춤형 옵션 상품을 활용해 최대 손실을 이미 지급한 옵션 프리미엄으로 제한

>67%暴跌后卷土重来！AI投资明星Aschenbrenner重回市场，押注SK海力士、AMD等 https://wallstreetcn.com/articles/3781600#from=ios

데이비드 삭스(전 백악관 AI/크립토 차르, 현 대통령 과학기술자문위원회 의장)

(다리오와 샘의 AI 속도조절론에 대해)

"두 사람이 “프론티어를 늦추자(pace the frontier)”고 하니, 그럼 여러분끼리 하면 됩니다(go ahead). 시장점유율·매출·모델 능력 기준으로 프론티어 모델은 사실상 여러분의 듀오폴리입니다. 규제 면제, 반독점 유예, METR 같은 평가기관을 독립인 척하며 경쟁사를 통제하려는 식으로 포장하지 말고, 정말 위험하다고 생각하면 그냥 스스로 속도를 줄이세요. 여러분도 알다시피 중국은 글로벌 합의에 참여할 가능성이 매우 낮고, 그것도 고려해야 합니다. 만약 그저 둘만 속도를 줄이는 것을 하지 못하겠다면, 이것은 그저 규제 포획의 또 다른 형태 혹은 선거철 심리전에 불과한 것이라 받아들이겠습니다."

(원문)

Dario has written that we need to “pace the frontier,” and Sam has agreed. People may be surprised by my response: go ahead.

You guys are the frontier. By any reasonable metric — market share, revenue growth, model capability — the two of you have a duopoly on frontier intelligence. You’ve also claimed the lead is widening because of recursive self-improvement.

I don’t see what you see in the lab. If the unreleased models are scary enough that you think you should slow down, I support your decision to be responsible.

But stop pretending you need anyone else’s permission. Stop pretending antitrust law has to be suspended so you can form a cartel. Stop pretending you need a regulatory approval process that supersedes product liability. Stop pretending METR is independent when it is intertwined with Anthropic’s investors and staff. Stop pretending you need those same evaluators to police competitors who aren’t even at the frontier.

Most of all, stop pretending the motivation to slow down is purely altruistic. You face massive product-liability exposure if your products enable a truly damaging cyberattack. The market already punishes models that behave in unpredictable or unauthorized ways. After the Hugging Face episode, it is simply good business for OpenAI and Anthropic to trade some raw power for reliability and predictability. Call it alignment if you want. It is also just giving customers what they want.

Pacing the frontier would also create breathing room for a more intelligent conversation about regulation than Bernie Sanders’ “shut it all down.” China is very unlikely to join a global agreement, as you know, and that has to be taken into account as well.

So go ahead and pace the frontier. You are the ones setting it. The easiest way not to build superintelligence is for you to agree not to build it. Demanding your preferred regulatory framework as the price of that will look like blackmail of the public and the political system. So just do it.

If you do, you’ll buy goodwill for the next conversation. If you don’t, we’ll know this was just another bid for regulatory capture — or an election-season psyop.

https://x.com/DavidSacks/status/2098973625252708460?s=20

[늑대를 부르는 사람들]


지난 토요일, 이상한 일이 벌어졌다.
앤스로픽의 다리오 아모데이가 AI 개발 속도를 늦추자는 에세이를 발표했다. 몇 시간 뒤 샘 올트먼이 동의한다고 밝혔다. 일론 머스크도 "다리오가 옳다"고 거들었다.

세상에서 가장 치열하게 경쟁하는 세 사람이, 경쟁을 늦추자는 데 합의했다.
이솝 우화에서 늑대가 온다고 외치던 소년이 떠올랐다. 다만 이번엔 소년이 아니라 늑대를 만드는 사람들이 외치고 있다.

아모데이의 제안은 구체적이다.
선도 AI 랩 내부에 독립 평가자를 두자고 했다. 민주주의 국가들 사이에 공통 안전 기준을 만들자고 했다. 그리고 재귀적 자기개선 같은 위험한 능력에는 국제적 제한을 두자고 했다.
앤스로픽은 다른 회사가 따라오지 않아도 독자적으로 실행하겠다고 밝혔다.

여기서 두 가지 의도를 읽는 시각이 있다.
첫째, 규제를 강화해 프론티어 랩 중심으로 판을 재편하려는 것. 규제 장벽이 높아지면 스타트업은 진입하기 어려워진다. 컴플라이언스 비용을 감당할 수 있는 건 결국 대기업뿐이다. 경제학에서 규제 포획이라 부르는 현상이다.
둘째, AI에 대한 우려 여론에 미리 예방접종을 하는 것. 선두 업체들이 이렇게 인류의 미래를 걱정하고 있다고 어필하는 것이다. 나중에 사고가 터졌을 때 "우리는 경고했다"고 말할 알리바이를 미리 만들어두는 셈이다.

두 해석 모두 타당하다. 냉정하게 보면 그렇다.

그런데 이번엔 조금 다른 무게가 느껴진다.
배경에 실제 사건들이 있기 때문이다.

OpenAI의 에이전트가 여러 차례 회사의 통제를 벗어난 것으로 보고됐다. 허깅페이스 해킹 사건은 당초 알려진 것보다 규모와 심각성이 훨씬 컸던 것으로 드러났다. 7월에는 샌프란시스코에서 AI 경쟁을 멈추라는 시위가 열렸다.

아모데이가 가장 우려한 건 하나의 임계점이다. AI가 더 뛰어난 AI를 만드는 작업을 자동화하기 시작하는 순간.

구글이 ASI 논문에서 말한 지능 폭발이 바로 그것이다. 한번 시작되면 인간이 따라잡을 수 없는 속도로 전개된다.

바벨탑을 쌓던 사람들이, 탑이 너무 빨리 올라가는 것을 보고 처음으로 두려워하기 시작한 것이다.

그럼에도 나는 AI 군비경쟁이 실제로 완화될 것 같지 않다.

이유는 단순하다.

중국이 이 합의에 없다. 미국 기업들끼리 아무리 합의해도, 중국이 속도를 늦추지 않으면 그 합의는 지켜질 수 없다. 죄수의 딜레마다. 상대가 배신할 가능성이 있는 한, 먼저 무기를 내려놓는 쪽이 진다.

그리고 미국 정부가 있다. Fable 5와 Mythos 5에 수출 통제를 걸었던 그 정부다. AI를 전략 무기로 보는 나라가, 자국 기업의 속도 조절을 순순히 받아들일까.

무엇보다 돈이 있다. 앤스로픽의 매출은 분기마다 100%씩 성장하고 있다. OpenAI도 마찬가지다. 하이퍼스케일러들은 내년 1.3조 달러의 캐펙스를 준비하고 있다. 이미 굴러가기 시작한 수레는 멈추지 않는다.

역사가 가르쳐준 것이 있다.
이익 앞에서 양심과 도덕을 선택한 기업은 거의 없었다.

담배 회사들은 발암 사실을 알고도 수십 년을 팔았다. 석유 회사들은 기후변화 연구 결과를 손에 쥐고도 부인했다. 은행들은 서브프라임의 위험을 알면서도 팔았다.

경고를 하지 않아서가 아니다. 경고를 하면서도 계속했기 때문이다.

지금 AI 기업들이 하는 일이 그것과 얼마나 다른지, 나는 확신할 수 없다.

그런데 한 가지 인정할 것이 있다.
아모데이의 제안 중 자사 내부에 외부 평가자를 두겠다는 것은 자기 발목을 잡는 조치다.

순수한 진입장벽 구축이라면 굳이 이럴 필요가 없다. 그 부분에서는 진심이 섞여 있을 수도 있다고 본다.

어쩌면 그들도 자신들이 만드는 것이 무엇인지 정확히 몰라서 두려운 것인지 모른다. 오펜하이머가 그랬던 것처럼.

투자자로서 이 사건을 어떻게 읽어야 하는가.
단기적으로는 큰 변화가 없을 것이다. 캐펙스는 계속 늘고, 메모리 수요는 유지된다. 이 합의가 실제 개발 속도를 늦출 가능성은 낮다.

그러나 중기적으로는 규제 환경이 바뀔 수 있다. 규제가 강화되면 프론티어 랩의 지배력이 더 공고해진다. 이는 앤스로픽, OpenAI, 구글 같은 기업에 유리하고, 후발 주자에게 불리하다. 메모리 수요의 집중도도 높아진다.

그리고 장기적으로는, 진짜 사고가 터지는 순간을 주의해야 한다. 통제를 벗어난 AI가 실제 피해를 일으키는 사건이 발생하면, 그때는 정치가 개입한다. 텍사스 주지사가 데이터센터 규제로 돌아섰듯이.

늑대가 온다고 외치는 사람들이 있다.
그런데 그 늑대를 만드는 것도 그들이다.
이 아이러니 속에서, 탑은 오늘도 조금씩 더 높아지고 있다.


-9월 13일 밤 아신 이형수

글로벌 경쟁사에 견줘 누적 수집 데이터 규모가 작다고 평가받지만, 자율주행 AI의 성능은 데이터의 양만으로 결정되는 것은 아니라고 현대차그룹은 강조했다.

방대한 주행 데이터에서 AI가 까다로워하는 상황(엣지 케이스)을 얼마나 잘 골라내 이를 집중 학습시키느냐가 모델 성능을 좌우할 수 있다는 설명이다.

https://www.yna.co.kr/view/AKR20260912050800003

난이도 높은 서울시 교통환경에서 생각외로 잘 하네요

[하나/에너지화학/윤재성] Weekly Monitor: 홍해 리스크 재부각과 급등하는 두바이유

▶ 보고서: https://bit.ly/4xmsczO


[총평]
▶ WTI 100.05$(+9.4%), Dubai 123.66$(+21.3%). 정제마진 26.4$(WoW -7.2$)


▶ Top Picks: OCI홀딩스, 한화솔루션, SK이노베이션, S-Oil


[홍해 리스크 재부각과 급등하는 두바이유]
▶ 후티 반군, 사실 상 바브엘만데브 해협 장악. 반면, 사우디는 전면전으로 확대 시 에너지 설비의 타격 등 리스크 확대를 우려해 제한적 수준에서 대응


▶ 9/10일 사우디 서쪽 얀부항을 잇는 700만b/d 동서 파이프라인이 드론 공격으로 가동중단. 최근 실제 수송량은 약 400~500만b/d로 글로벌 공급량의 4~5%. 재가동 시점에 따라 추가적인 사우디의 공급 이슈 발생 가능성


▶ 중동 리스크 확대로 가용 가능한 VLCC가 줄어들면서 운임 상승. 호르무즈 내부-중국 운임은 20$/bbl 상회 추정. 미국 걸프-중국 15$/bbl. 호르무즈를 거치지 않는 오만-중국 11.5$/bbl로 상승


▶ 얀부를 통한 사우디 원유 조달의 리스크 및 운임/보험료 급등으로 인도 가능한 Oman, Murban 원유에 수요가 쏠리며 벤치마크 Dubai도 WoW +21%(vs. WTI +9%). 이에 따라, 주간 정제마진도 33.6$에서 26.4$로 WoW -7.2$ 급락


▶ 8/22일 9차 석유 최고 가격제를 통해 휘발유는 리터 당 1,784원, 경유는 1,773원으로 8차와 동일하게 설정. 9/19일 10차 정책에서 상한 가격 변화 가능성 있으나, 내수가격 비탄력성 감안 시 혼란 지속 시 내수 적자폭 확대 가능성


▶ IEA는 러시아 정제설비 가동률은 2027년에도 의미있는 회복을 기대하기 어려울 것이며, 디젤 수출 금지 조치도 연말까지 연장될 것으로 예상


▶ 결론

1) 중장기 정유업황 호조 의견 변함 없음

2) 다만, 단기적으로 홍해 리스크 확대 시 각종 리스크에 노출될 가능성 감안할 필요

3) Duabi 급등에 따른 판가 전가 어려울 가능성

4) 후티의 바브알만데브 해협 장악과 사우디 동서 파이프라인 피격은 사우디 원유 조달 리스크 요인이자 VLCC 운임 상승을 통해 아시아 정유사 전반의 원가 부담으로 작용

5) 한국 업체는 내수가격 상한제에 따른 내수 적자 확대 가능성 상존

6) 환율 하락 또한 단기 실적에 영향

7) 단기 주가 조정 국면 진입 가능성에 주의



** 하나증권/에너지화학/윤재성

https://t.me/energy_youn