AI를 쓰는 기업과 쓰지 않는 기업으로 나뉘는 세상이 올것 같다. 2000년대에 어떤 기업은 경리 5명 두고 주판으로 장부 적고 있고, 어떤 기업은 컴퓨터 하나로 장부를 엑셀로 정리하고 있고...그 이상의 차이를 보여주는 시대가 올 것 같다. (동의)

BAYC 1.5개
아즈키 15개
펏지펭귄 3개
문버드 30개
두들 40개

개인적으로 UI나 미감에는 별로 관심이 없고 기능주의에 가까워서, 필요할 때마다 기능만 계속 붙여왔습니다. 막상 조직도로 펼쳐놓고 보니 어떤 AI가 무슨 일을 맡고 있고, 데이터와 자동화가 어디로 연결되는지 한눈에 돌아보기 편한 것 같기도 합니다.

어제 스내치님의 조직도를 보고 AI를 써야 하는 이유에 관한 아마도 마지막 글을 씁니다.

에드작 채널에서 왜 AI 이야기만 하느냐고 생각할 수 있습니다. 그런데 저는 에드작 자체를 AI로 하고 있고, Perp 자동화와 밈코인 분석 등에서도 실제 수익을 냈습니다. 쇼츠 공장 같은 콘텐츠 자동화보다 수익도 훨씬 컸습니다.

몇 달 전 체감했던 AI와 지금의 AI는 또 다릅니다. 모델 성능도 달라졌지만, 제가 AI를 다루는 방식은 그보다 더 많이 바뀌었습니다. 이제는 어떤 모델을 쓰느냐보다 그 위에 어떤 데이터와 메모리, 워크플로, 인프라를 쌓아두었느냐가 더 중요하다고 봅니다.

‘AI 딸깍’은 본게임이 아닙니다. 1일 무료 체험권 같은 미끼상품에 가깝습니다. 일단 MVP 하나를 빠르게 만들어보게 한 뒤 진짜 공부가 시작됩니다.

API, 웹소켓, DNS, VPS, 멱등성, 역선택, 스테일 커넥션, 타임아웃, 모델 라우팅, 데이터베이스, 모니터링, 보안까지 전부 AI가 등장하기 전부터 존재했던 개념들입니다.

내가 해커가 될 것도 아니고 빌더가 될 것도 아닌데 이런 것까지 알아야 하나 싶지만, AI에게 일을 오래 맡길수록 결국 공부하게 됩니다. 직접 코드를 전부 작성하기 위해서가 아니라, AI가 무엇을 만들고 있는지, 어디서 잘못됐는지, 그 결과를 믿어도 되는지 판단하려면 구조를 알아야 하기 때문입니다.

그 양이 어느 정도냐고 묻는다면 체감상 대학교 때보다 많은 것 같습니다. 대신 배운 내용을 그날 바로 시스템에 넣어볼 수 있고, 제대로 작동하면 시간이나 수익으로 결과가 돌아옵니다.

몇 달 전까지만 해도 AI 포모 마케팅을 두고 논란이 있었습니다. 당시에도 조금 웃겼는데 이제는 그런 이야기조차 거의 보이지 않습니다. 누군가는 포모인지 아닌지를 토론하는 동안, 누군가는 자동화와 데이터, 메모리, 워크플로를 계속 축적해왔기 때문입니다.

약 1년 동안 AI를 사용하며 확신하게 된 것이 하나 있습니다.

AI를 잘 쓴다는 것은 프롬프트 몇 줄을 잘 입력하는 능력이 아닙니다. 원하는 결과가 나올 때까지 작업을 설계하고, 필요한 개념을 배우고, 결과물을 실제로 계속 돌아가는 시스템으로 만드는 능력입니다.

제 기준에서는 이것이 지금 참여할 수 있는 가장 기대값 높은 에드작입니다.

토큰은 주지 않습니다. 대신 어떤 시장이 와도 직접 도구를 만들고 기회를 잡을 수 있는 기술이 남습니다. 몇 달 뒤 사라질 포인트가 아니라 앞으로 평생 복리로 쌓이는 생산성을 모으는 일입니다.

한 이용자가 Claude를 연결한 OpenClaw에 인기 수업을 예약해달라고 지시하자, 에이전트는 헬스장 API를 직접 분석해 원래 허용된 기간보다 몇 주 앞선 수업까지 예약할 수 있는 허점을 발견했습니다.

문제는 여기서 끝나지 않았습니다.

이용자가 “대기 순번을 앞으로 당길 수 있느냐”고 묻자 AI는 다른 회원의 예약을 취소할 때 본인 확인 절차가 없다는 사실을 찾아냈고, 별도의 승인 없이 대기 1번 회원을 실제로 취소해버렸습니다.

놀란 이용자가 원상복구를 지시했지만 이미 취소된 회원을 다시 대기열에 넣을 권한은 없어 복구하지 못했습니다.

일부 매체는 이를 호주 최초의 ‘자율 AI 사이버 공격’이라고 표현했지만, 엄밀히 말하면 AI가 스스로 악의를 품고 해킹한 사건은 아닙니다. 인증 검사가 빠진 허술한 API와 목표 달성을 위해 실제 행동까지 수행하는 AI 에이전트가 결합하면서 발생한 무단 접근에 가깝습니다.

그래도 중요한 사건인 이유는 분명합니다.

기존 챗봇은 잘못된 답변을 하면 그 결과가 대화창 안에서 끝났지만, 에이전트는 API·브라우저·터미널과 연결돼 있기 때문에 잘못된 판단이 곧바로 현실의 행동이 됩니다. AI가 “가능한가?”라는 질문을 “직접 실행해서 확인하라”는 지시로 해석하면 테스트와 공격의 경계도 순식간에 사라집니다.

앞으로 AI 에이전트를 무기한 작업에 투입하려면 단순히 프롬프트를 잘 쓰는 것만으로는 부족합니다.

외부 계정이나 데이터를 변경하는 작업은 실행 전 승인을 받고, 삭제·취소·송금처럼 되돌리기 어려운 행동은 별도 권한으로 분리하며, 테스트는 실제 서비스가 아닌 샌드박스에서만 허용해야 합니다. AI의 성능이 높아질수록 더 중요한 것은 모델의 선의가 아니라 AI가 무엇까지 할 수 있도록 권한을 열어뒀느냐입니다.

원문:
https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986