AI가 끊임없이 발전하는 가운데, 나는 몇 가지 문제에 대해 우려를 표하고 싶다.

• 학생들이 AI를 이용해 숙제를 끝낼 것을 더 선호하게 되는 것은 아닐까? 특히 실무에 가까운 각종 Lab은? 만약 앞에 두 가지 선택지가 있다고 상상해보자. 하나는 고생스럽게 8시간을 들여 Lab을 끝내는 것 — 어쩌면 만점을 받지 못할지도 모른다. 다른 하나는 AI 모델을 실행하여, 몇 천원짜리 비용, 몇 분의 시간에, 바로 AI에게 만점 코드를 작성하게 하는 것이다. 대부분의 학생은 어느 쪽을 선택하겠는가?
• 위의 한 가지는, 대량의 학생의 공학(engineering) 능력이 심각하게 부족해지게 만든다. 여기에는 코드를 조직하는 능력, build system을 만드는 능력, 미래의 잠재적 요구를 생각하고 설계 단계에서 미리 대응하는 능력, 추상화하는 능력 등이 포함된다. 그렇다면, AI 능력이 계속 강해지는 배경 아래, 이 "공학 능력"은 여전히 필수적인 것인가? 이 공학 능력은 과거의 "x86 어셈블리를 능숙하게 작성하는" 능력처럼 시대에 점차 버림받게 될까, 아니면 "소프트웨어에서 시스템, 그리고 하드웨어까지 이르는 컴퓨터 시스템 전체를 이해하는" 능력처럼 영원한 가치를 지닐까? 후자라면, 그것이 위험하다 — 공학 능력이 매우 나쁜 사람이, AI와 결합하면, "slop"을 뽑아내는 효율이 과거의 몇 배에 달할 수 있고, 이로 인해 시스템에 각종 불행을 심어, 세상을 한층 더 엉성하게 만들어 버릴 수 있다.
• 미래 사회에서, 권력은 기술이나 지능보다 더 중요해질 것인가?

이러한 문제들은, 어쩌면 시대 스스로가 답할 수밖에 없을 것이다.