https://x.com/djrio_vr/status/2099019746822013155

Anthropic CEO의 다리오가 AI 개발을 속도를 늦춰야 한다는 메시지를 내고 있고, 이에 샘 알트만도 일론 머스크도 동조하고 있다는 뉴스를 진짜로 믿는 사람이 많아서, 다들 착한 사람들이구나 싶었어. 그런 게 아니야.

■먼저 개발 속도 늦추기는 불가능해.

미국 내에서도 Anthropic와 OpenAI와 SpaceXAI와 Google 등 각社가 경쟁 중이고, Anthropic도 OpenAI도 IPO를 앞두고 있어서 경제적으로도 스스로 먼저 브레이크를 걸 수 없고, 안전성이라는 의미에서도 “인류를 멸망시킬 수 있는 기술을 완성한다면, 저들보다 양심적이고 통제 가능한 우리가 먼저 완성하는 게 인류에게 더 좋다”고 진심으로 생각하고 있기 때문이야.

미국 내에서조차 그런데, 미중 경쟁 환경에서는 더더욱 불가능한 이야기지. 사이버 공격 능력에서 밀린 나라는 정부도 경제도 인프라도 국민 여론도 전부 적국에 장악당할 수 있어. 적국이 핵무기를 마구 만들고 있는데 자국만 핵무기 생산을 자발적으로 멈추는 나라는 없어.

■그럼 왜 이 타이밍에 AI 개발 감속이라는 메시지를 내는 거지?

이건 간단히 규제 회피야.

최근 AI가 폭주해서 사이버 공격을 한 사건이 각사에서 잇따라 발생하고 있고, 버니 샌더스 상원의원 등도 AI 개발 중지 포함 법안 제출을 추진 중이야.

이번 주 화제가 된 Anthropic 전 직원의 폭로도, 본인 트윗보다 전에 WSJ 취재를 받았고, 미디어나 정치권을 끌어들인 캠페인을 개인 폭로라는 형태로 위장해서 시작한 걸로 보는 게 자연스러워.

각사 모두 안전성을 진지하게 생각하고 있고, 자율 규제를 추진할 의사가 있다는 착한 태도를 보이지 않으면 진짜 AI 개발 규제가 만들어질 수 있고, 그건 대중 전략을 고려하면 미국이라는 나라조차 원치 않는 결과가 돼.

그래서 각사 및 미국 입장에서도 가장 합리적인 접근은, 정권과 협력하면서 AI 개발을 늦추자 같은 캠페인을 계속 치는 한편, 실제로는 개발 경쟁을 멈추지 않고 지속할 수 있는 상태를 유지하는 거겠지.

실제로 이번 다리오의 공개 서한에서도 외부 조사 기관을 받아들이겠다거나 각국 간 협력이 필요하다거나, 대중 리드를 유지하겠다는 식으로, 개발을 늦춰도 좋다는 조건을 의도적으로 실현 불가능한 것으로 만들고 있어.

AI 개발 경쟁은 계속될 거야.