머니보틀 – Telegram

티보 소티오 × 매튜 버먼: AI 에이전트와 오픈AI의 미래

■ AI 에이전트의 병목은 모델 성능에서 시스템 전체로 이동

“Ultra Fast처럼 토큰 생성 속도가 10~14배 빨라지면 CPU, 툴콜, 네트워크 등 다른 부분이 병목이 된다.”

→ 모델 추론 속도가 충분히 빨라질수록 실제 에이전트 작업시간을 결정하는 요소는 토큰 생성 자체가 아니라 툴 호출, 네트워크, CPU, 애플리케이션 실행 등으로 이동

→ 실제로 코드 생성처럼 툴콜이 적은 작업은 Ultra Fast에서 약 10배 빨라질 수 있지만, 툴콜이 많은 에이전트 작업은 체감 개선폭이 3~4배에 그친다고 설명

→ 향후 AI 인프라 경쟁은 단순 GPU 및 tok/s 경쟁을 넘어 추론, CPU, 네트워크, 툴 실행, 오케스트레이션까지 포함한 전체 에이전트 스택 최적화로 확장될 가능성

■ 미래 에이전트는 노트북이 아닌 클라우드 컴퓨팅 환경에서 작동

“노트북은 인간이 처리할 수 있는 작업량에 맞춰 설계됐다. 모델은 같은 제약을 받지 않는다. 미래 모델은 노트북 이상의 자원에 접근해야 한다.”

→ 현재 컴퓨터는 인간의 입력 속도와 멀티태스킹 능력을 기준으로 설계됐지만, AI는 동시에 수십~수백 개 애플리케이션을 처리할 수 있음

→ 에이전트가 고도화될수록 로컬 PC를 대신 조작하는 구조보다 클라우드에서 독립적인 실행환경과 대규모 컴퓨팅 자원을 사용하는 Cloud Agent 구조로 이동할 가능성

→ AI가 직접 컴퓨트의 소비 주체가 되면서 GPU뿐 아니라 CPU, 메모리, 스토리지, 네트워크 등 클라우드 인프라 전반의 수요를 확대할 수 있는 구조

■ Personal Agent와 Full Automation을 서로 다른 두 축으로 개발

“한쪽은 사용자를 깊이 이해하는 Personal AGI이고, 다른 한쪽은 복잡한 프로세스의 완전 자동화다.”

→ Personal Agent는 사용자의 목표, 일상, 팀 상황까지 이해하고 선제적으로 도움을 제공하는 방향

→ Full Automation은 production log 분석, 성능 최적화, 회귀 수정, 보안 취약점 패치처럼 기존에는 사람이 개입해야 했던 복잡한 프로세스를 자동화하는 방향

→ 특히 보안 취약점의 경우 탐지 이후 패치까지 자동화해 사람이 고위험 행동만 승인하는 수준을 언급

→ AI 산업의 발전 경로를 단순 Copilot이 아니라 개인 생산성 향상과 기업 업무 프로세스의 완전 자동화라는 두 축으로 동시에 확장하는 것으로 보는 시각

■ ChatGPT와 Codex 통합, 범용 에이전트와 대규모 배포 전략

“미래 모델이 우리에게 ChatGPT와 Codex를 합치라고 요구한다. 결국 같은 기술, 같은 harness다.”

→ 오픈AI는 코딩용 AI와 일반 AI를 장기적으로 별도 제품으로 보지 않음. 하나의 고성능 멀티모달 에이전트가 코딩, 리서치, 디자인, 영업, 마케팅 등 다양한 작업을 수행하고 인터페이스가 사용자별로 최적화되는 구조를 지향

→ 인터뷰 시점 Codex 사용자는 2,000만 명까지 증가. 개발자 전용 제품을 별도로 키우기보다 ChatGPT와 통합해 PM, 디자이너, 영업, 마케팅 등 비개발자까지 에이전트 사용층을 확대

→ 장기적으로는 하나의 Personal AGI Interface가 사용자별 역할과 컨텍스트에 맞춰 변화하고, ChatGPT의 대규모 소비자 배포를 개발자 및 엔터프라이즈 에이전트 채택으로 연결하는 전략

■ 사용량 리셋은 마케팅이 아니라 사용자 보상 차원에서 시작

“제품이 제대로 작동하지 않거나 경험이 기대에 못 미치면 사용량을 리셋해 보상한다. 마케팅이나 재무팀과 협의해서 하는 것이 아니라 필요하다고 느끼면 내가 직접 버튼을 누를 수 있다.”

→ Codex 사용량 리셋은 초기 제품을 빠르게 개선하는 과정에서 장애나 설정 오류가 발생했을 때 사용자에게 추가 사용량을 제공하는 보상 차원에서 시작

→ 이후 새로운 기능 출시나 주요 순간을 기념할 때도 추가 사용량을 제공하며 사용자들이 신규 기능을 직접 경험하도록 유도

→ 리셋 결정에 마케팅이나 재무팀이 관여하지 않는다고 강조. 제품 완성도가 기대에 미치지 못하면 즉각 보상하고, 단기적인 사용 비용보다 사용자 경험과 신뢰를 우선하는 오픈AI의 제품 운영 문화를 보여주는 사례

■ 미래 AI 인터페이스는 Voice-first, Ambient, Multimodal

“미래에 우리가 만드는 것은 매우 ambient하고 자연스러운 형태다.”

→ 새로운 Voice 출시 이후 음성으로 ChatGPT를 사용하는 이용자가 빠르게 증가하고 있다고 설명

→ 사람은 입력 저항이 가장 낮은 방식을 선택하기 때문에 키보드와 프롬프트 중심 인터페이스가 AI의 최종 형태는 아닐 것으로 판단

→ 향후에는 음성뿐 아니라 사용자의 화이트보드, 화면, 주변 환경까지 이해하는 상시 존재형 멀티모달 에이전트로 발전할 가능성

■ Ultra Fast 수준의 추론 속도가 1~2년 내 사실상 기본값으로

“1~2년 정도면 지금의 속도가 기본이거나 기본에 매우 가까워질 수 있다.”

→ 현재 10~14배 빠른 Ultra Fast는 프리미엄 서비스지만, 추론 하드웨어 발전과 모델 자체의 토큰 효율성 개선이 동시에 진행되면서 현재의 초고속 추론이 빠르게 대중화될 것으로 전망

→ Sol은 Terra보다 훨씬 토큰 효율적이며 차세대 모델은 Sol보다도 크게 개선될 것이라고 언급. 동일한 작업에 필요한 토큰 수가 감소하면서 작업당 총 추론 비용도 하락할 가능성

→ 다만 항상 더 많은 하드웨어를 사용하는 상위 프리미엄 tier는 존재할 것으로 전망. 장기적으로 모델 성능뿐 아니라 latency, cost per task, time per task가 AI 경쟁의 핵심 지표로 부상할 가능성

■ 재귀적 자기개선은 이미 AI 인프라 영역에서 시작

“모델이 다른 모델을 만드는 것뿐 아니라 추론 스택, CUDA 커널, 인프라를 개선하는 것도 Recursive Self-Improvement다.”

→ 오픈AI가 현재 실제 성과를 내고 있다고 강조한 영역은 완전한 AI 연구 자동화보다 AI를 활용한 AI 인프라 개발과 최적화

→ 가장 강력한 프론티어 모델을 이용해 서빙 스택과 커널 등을 재설계하고 있으며, Ultra Fast를 제외한 일반 추론 속도도 최근 약 3개월 동안 60%가량 개선됐다고 설명

→ 더 강한 모델이 추론 인프라를 개선하고, 개선된 인프라가 다시 AI 활용과 연구 생산성을 높이는 자기강화 구조가 나타나기 시작했다는 시각

→ 과거 대규모 컴퓨트 선투자 역시 이러한 구조를 뒷받침. 단순 GPU 보유량보다 Compute × Frontier Model × Inference Optimization의 결합이 경쟁력으로 작용

■ 현재 Frontier Intelligence는 수개월 내 저가, 범용화될 수 있음

“Luna는 6개월 전이었다면 Frontier에 있었을 모델이다. 지금 Frontier인 것도 6개월 뒤에는 훨씬 저렴하게 운영될 것이다.”

→ AI 산업에서 나타나는 중요한 구조적 변화 중 하나는 지능의 빠른 Commoditization

→ 현재 최고급 모델의 성능이 불과 수개월 뒤 저가 모델이나 무료 tier로 확산될 수 있으며, 오픈AI는 효율성 개선에 따른 경제적 이익을 가격 인하 등을 통해 사용자와 공유하겠다는 방향을 강조

→ 장기적으로 모델 자체의 희소성이 빠르게 낮아질 경우 경쟁력은 단순 API 성능보다 Distribution, 에이전트, 개인화, 컨텍스트 활용, 인프라 효율성 등으로 이동할 가능성

https://youtu.be/4qjEgPojjzM

1.52K views04:46