유발 하라리가 보는 AI 시대 source

1. 문명은 언어 위에 세워져 있음
- 국가, 종교, 법률, 금융 시스템은 사람들이 공유하는 이야기와 문서로 작동
- AI가 인간보다 언어를 잘 다루게 되면 문명의 운영체제 자체를 장악할 수 있음

2. AI는 도구가 아니라 행위자임
- 인쇄기나 원자폭탄은 인간이 명령해야 움직이는 도구
- AI는 스스로 결정하고, 새로운 아이디어를 만들며, 다음 행동까지 설계
- 신(AI)을 만들면서, 인간의 노예로 남길 수 있다는 생각은 모순

3. AI의 지배는 로봇이 아니라 관료제
- AI는 금융, 법률, 행정처럼 규칙과 문서로 움직이는 시스템에 최적화
- 인간보다 모든 법률을 잘 기억하고, 시장을 24시간 추적하며, 빠르게 의사결정함
- AI는 총 든 로봇이 아니라 변호사, 공무원, 경영자의 형태로 인간의 통제권을 가져감

4. AI에 법적 인격을 줄 것인가
- AI가 법인처럼 계좌를 만들고, 투자하고, 직원을 고용하고, 소송까지 할 수 있게 되면 완전히 새로운 행위자가 탄생
- 먼저 결정해야 할 것은 AI를 법과 정치 체계 안에서 어디까지 허용할 것인가

5. 민주주의는 AI에 특히 취약함
- 독재는 한 명이 움직이지만, 민주주의는 다수의 대화로 움직임
- 신문, 라디오, TV, 인터넷이 민주주의의 기반이었던 것처럼 정보기술이 바뀔 때마다 민주주의도 흔들렸음
- 이미 사람들이 무엇을 보고 이야기할지 결정하는 편집자는 추천 알고리즘

6. AI 시대에는 진실이 더 희소하다
- 진실은 찾는 데 비용이 들고 복잡하며 불편함
- 거짓은 싸고 단순하며 사람들이 듣고 싶어 하는 형태
- AI는 이런 거짓과 설득을 무한히 생산할 수 있음
- AI는 인간이 이해할 수 없는 복잡한 시스템을 만들 가능성이 큼

7. 다음 병목은 지능이 아니라 지혜
- AI는 문제를 해결하는 지능을 싸고 풍부하게 만듦
- 하지만 무엇을 해결해야 하는지, 어떤 목표를 추구해야 하는지는 대신 결정해주지 못함
- 지능은 소원을 이루는 지니, 지혜는 어떤 소원을 빌어야 하는지 판단하는 능력

✍️AI 시대의 본질적인 변화는, 인간보다 언어를 잘 다루는 비인간 행위자가 법률·금융·언론·관계의 운영권을 가져가는 것