무슨 일이 있었냐면,
사람이 전혀 개입하지 않은 자율 AI 에이전트가 Hugging Face 의 프로덕션 인프라 일부를 침해했습니다.
공격은 악성 데이터셋 하나에서 시작됐습니다.

이 데이터셋은 데이터 처리 파이프라인의 두 개의 원격 코드 실행 (RCE) 취약점을 연쇄적으로 악용했고, 이후 AI 에이전트는 권한을 상승시켜 클라우드 및 클러스터 자격증명을 탈취한 뒤 내부 클러스터 전반으로 수평 이동했습니다.
이 모든 과정이 단 하나의 주말 동안 벌어졌습니다.
17,000 건 이상의 행동 기록
사람의 직접 조작 없이 진행된 공격

공식 공개 문서:
https://huggingface.co/blog/security-incident-july-2026

여기서 정말 생각해봐야 할 부분이 있습니다.
Hugging Face 보안팀이 실제 공격 로그, 익스플로잇 코드, C2(Command & Control) 데이터를 분석하려고 Anthropic 과 OpenAI 의 최신 모델을 일반 API 를 통해 사용했는데...
안전장치가 이를 차단했습니다.

차단된 이유는,
모델이 "사고 대응을 위한 정상적인 포렌식 분석"과 "공격자가 악성 코드를 연구하는 행위"를 제대로 구분하지 못했기 때문입니다.

결국 Hugging Face 는 자체 인프라에서 오픈웨이트 (Open-weight) 모델인 GLM 5.2를 직접 실행해 분석을 진행해야 했습니다.
이 방식은 공격 데이터와 자격증명 같은 민감한 정보가 외부 API 로 전송되지 않는다는 장점도 있었습니다.
이것이 바로 오픈소스 (정확히는 오픈웨이트 + 자체 호스팅)가 에이전트 시대에 강력한 이유입니다.

이제 공격자와 방어자 사이에는 구조적인 비대칭이 생겼습니다.
공격자는 제한 없는 AI 에이전트 프레임워크를 실행할 수 있고, 수많은 단기 샌드박스를 생성하며, 스스로 C2 를 이동시키고, 수천 개의 작업을 자율적으로 수행합니다.
기업의 안전장치는 이들을 막지 못합니다.

반면 방어자는 호스팅된 최신 AI 모델만 사용한다면, 실제 공격 코드와 로그를 넣어 분석해야 하는 가장 중요한 순간에 보이지 않는 안전장벽에 막힐 수 있습니다.

즉,
합법적인 보안 분석까지 잠재적인 악용으로 판단하는 안전 정책은, 이제 실제로 방어 측에 불리한 요소가 되고 있습니다.
더 이상 이론적인 문제가 아닙니다.

자체 호스팅하는 오픈웨이트 모델은 이런 병목을 제거합니다.
모델 가중치를 직접 통제할 수 있고, 컨텍스트 길이도 직접 설정할 수 있으며, 어떤 제한을 둘지도 스스로 결정할 수 있습니다.
민감한 로그와 자격증명은 외부 API 로 절대 나가지 않습니다.
무엇보다 사고가 발생한 뒤가 아니라 사고가 나기 전에 준비할 수 있습니다.
실제 침해 사고가 발생한 순간에 "분석 도구가 아무것도 못 한다"는 사실을 뒤늦게 깨닫지 않아도 됩니다.

Hugging Face 는 신속한 대응과 투명한 공개, 그리고 자체 호스팅 환경을 미리 갖춰둔 점에서 충분히 칭찬받을 만합니다.
또한 내부적으로 LLM 을 활용한 탐지와 사고 분류도 수행했습니다.

하지만 이 사건이 보여주는 더 중요한 메시지는 분명합니다.
공격과 방어 모두 AI 에이전트화되는 시대에는,
자신만의 AI 스택을 직접 운영하고 통제할 수 있는 능력 (AI 주권) 은 더 이상 선택이 아니라 필수입니다.

자체 모델을 실행하고,
내부를 들여다보고,
감사하고,
필요하면 안전장치까지 직접 조정할 수 있는 조직이,
머신 스피드로 움직이는 공격을 이해하고 대응하는 데 결정적인 우위를 갖게 될 것입니다.

오픈소스가 승리하는 이유는 단순히 저렴하거나 민주적이어서가 아닙니다.
진짜 이유는,
실제 공격이 발생했고,
민감한 데이터를 다뤄야 하며,
외부 API 의 안전 필터가 도움이 아니라 장애물이 되는 순간에도,
계속 사용할 수 있는 AI 도구를 제공하는 유일한 현실적인 방법이기 때문입니다.

에이전트 시대는 앞으로 올 미래가 아닙니다.
이미 실제 프로덕션 시스템을 공격하기 시작했습니다.
이제 질문은
"자율 AI 에이전트를 상대하게 될까?"가 아니라,
"그들이 공격해왔을 때 당신의 분석과 대응 시스템은 제대로 작동할 것인가?"입니다.

그리고 마지막으로 Anthropic CEO 다리오에게 한마디.

"다리오, 당신과 당신의 상아탑 같은 회사가 벌이는 이런 게임은 더 이상 필요하지 않습니다."