테낙스 리서치

Forwarded from BHI

흥미로운 점은 이런 방식이 이미 어느 정도 현실에서 구현되기 시작했다는 것이다. 예를 들어 Claude와 대화하다 보면, AI가 모호하다고 판단하거나 사용자의 선택이 필요한 경우 하나의 팝업처럼 '이것은 어떻게 할까요?'라고 묻는 경험이 나타난다. 나는 이런 구조가 왜 의미 있는지 분명하다고 본다. 사용자가 처음부터 고난도의 프롬프트를 완벽하게 작성하지 않아도, 시스템이 더 나은 프롬프팅을 할 수 있게 도와주는 환경을 만들어 주기 때문이다. 예전에는 정말 높은 수준의 결과를 얻으려면 '나는 서면에서 12시~13시 사이에 친구(남자)와 함께 지하철 두 정거장 정도 되는 거리 안에서, 한식 기반으로, 간단하게 술 한 잔 정도 할 수 있는 식당을 찾고 있어. 둘이서 지출할 금액은 대략 6만 원 정도야'와 같은 식으로 세세한 조건을 모두 적어야 했다. 그러나 더 좋은 시스템이라면 사용자가 단순히 '나 서면에서 친구랑 밥 먹으려는데 뭐 먹을까?'라고 말해도 된다. 그러면 시스템이 '몇 시에 가시나요?', '누구와 가시나요?', '어떤 수준의 음식을 원하시나요?', '예산은 어느 정도인가요?' 같은 질문을 순차적으로 던지고, 필요하면 선택지를 보여주고, 선택지 밖의 경우에는 직접 입력할 수 있게 하면서 영역을 점차 좁혀가면 된다. 그렇게 해서 사용자의 니즈를 더 정확히 맞출 수 있다.

물론 이 방식에는 또 다른 긴장도 존재한다. 많은 사용자들은 너무 많은 질문에 지칠 수 있고, 질문에 답하는 것 자체를 피로하게 느낄 수 있다. 그러나 그렇다고 해서 되묻는 구조 자체가 의미 없다고 볼 수는 없다. 오히려 중요한 것은 질문의 양이 아니라 질문의 질이다. 아무 데나 꼬치꼬치 묻는 것이 아니라, 결과를 크게 바꾸는 핵심적인 공백을 찾아 그것만 효율적으로 물어야 한다. 질문은 사용자를 귀찮게 하기 위해 존재하는 것이 아니라, 사용자의 의도와 결과 사이의 오차를 줄이기 위해 존재해야 한다. 사용자가 피로하지 않도록 설계하면서도, 필요한 확인은 반드시 거치는 구조. 바로 그것이 좋은 인터페이스이고, 좋은 에이전트 시스템의 시작이다.

AI Agentic System을 설계한다면, 핵심은 더 분명해진다. 사용자의 말, AI 간의 대화, 문서 속 표현에서 모호성, 조건, 상황, 선택 등의 정보 공백을 찾아내야 한다. 이로 인해 공백을 찾아내는 역할의 에이전트의 필요성이 대두되고 있다. 그리고 그 공백을 메우기 위한 선택지를 동시에 추천하면서, 사용자에게 되묻거나 시스템 내부의 서로 다른 구성 요소들이 서로에게 되묻는 구조가 되어야 한다. 이것이 없으면 정확한 방향성과 의도는 쉽게 흐려진다. 결과적으로 시스템은 일을 '수행'하고 있는 것처럼 보여도, 실제로는 잘못된 방향으로 정교하게 달려가게 된다. 그 위험은 개인적인 대화에서만 끝나지 않는다. 문서화의 과정에서 모호한 결과물이 나오거나, 사람과 AI 사이의 의사소통이 모호하면, 의도하지 않은 결과물이 만들어지고 그것이 큰 파급력을 불러일으킬 수 있다. AI가 다루는 일이 커질수록, 이 문제는 사소한 말실수의 수준이 아니라 설계와 실행, 협업 전체를 흔드는 리스크가 된다.

그렇다고 해서 완벽하게 모호하지 않은 언어를 만들 수 있는 것은 아니다. 그것은 사실상 불가능하다. 언어는 원래 다의적이고, 맥락적이며, 압축적이다. 우리가 해야 하는 일은 언어에서 모호함을 완전히 제거하는 것이 아니라, 그 모호성을 찾아내고, 확인하고, 정정하는 절차를 만드는 것이다. 말하자면 목표는 '완전한 무모호성'이 아니라 '모호성을 발견하고 수정하는 체계'다. 그리고 이 지점에서 우리는 언어의 복잡성이 생각보다 훨씬 심하다는 사실을 다시 보게 된다. 겉보기에는 단순한 문장도 실제 행동과 사고의 기준으로 들어가면 수많은 해석과 분기를 만들어 낸다. 그래서 더더욱 AI는 함부로 의미를 확정해서는 안 되고, 사용자의 뜻이 여러 갈래로 갈릴 수 있는 지점에서는 반드시 멈춰 서서 확인해야 한다.

이때 또 하나 중요한 원칙이 있다. 정보를 쌓아야 한다는 것이다. 사용자가 같은 말을 반복하지 않게 해야 한다. 좋은 시스템은 과거의 대화와 이전 작업, 문서 속 맥락, 누적된 조건과 상황을 기억하고 활용해야 한다. AI Agentic System에서는 10일 전에 했던 말도, 1년 전에 했던 말도 조건과 상황으로 쌓일 수 있고, 그것은 분명 유용하다. 그러나 동시에 상황은 바뀐다. 사람의 취향도 바뀌고, 목표도 바뀌고, 현재의 제약도 달라진다. 그래서 시스템은 과거를 그냥 가져다 쓰는 것에 그쳐서는 안 된다. 이전의 상황을 기술해 주고, '이전에는 이런 조건이었는데 지금도 같은가'를 확인해야 한다. 즉, 다시 말하지 않게 해야 하지만, 다시 물어보고 다시 말해야 하는 순간도 있어야 한다. 이 역설을 풀지 못하면, 기억은 편의가 아니라 오작동의 원인이 된다. 좋은 기억은 축적된 정보를 맹신하는 기억이 아니라, 현재에 맞게 검증하는 기억이다.

결국 우리가 줄이려는 것은 단순한 설명 부족이 아니다. 행동과 사고를 위한 의미적 공백이다. 사람은 원하는 것을 더 정확히 말할 수 있어야 하고, AI는 그 정확성에 도달하기 전까지 성급하게 결론을 내리지 말아야 한다. 인간은 AI에게 필요한 수준으로 조건과 의도를 구조화하는 능력을 길러야 하고, AI는 인간이 원래 그렇게까지 완벽하게 말하지 않는 존재라는 사실을 전제로 시스템을 설계해야 한다. 미래의 경쟁력은 단순히 더 많은 답을 생성하는 능력이 아니라, 더 적은 의미적 공백 위에서 행동하고 사고하는 능력에 달려 있다.

그래서 나는 21세기 최고의 능력을 이렇게 정의하고 싶다. 내가 바라는 것을 정확히 표현하는 능력, 그리고 그 정확성에 도달할 때까지 모호함과 중의성, 조건과 선택, 상황과 방향성의 공백을 함께 줄여나가는 능력이다. 이것은 사용자 혼자만의 과제도 아니고, AI 혼자만의 과제도 아니다. 둘 사이의 관계를 다시 설계해야만 가능한 일이다. 진짜 뛰어난 AI는 답을 빨리 내는 AI가 아니다. 무엇이 아직 정해지지 않았는지를 정확히 짚고, 선택이 필요한 곳에서는 선택을 사용자에게 돌려주며, 모호한 부분은 되묻고, 축적된 정보를 활용하되 현재의 변화를 다시 확인하고, 사용자가 더 이상 같은 말을 반복하지 않게 하면서도 필요한 순간에는 다시 묻는 AI다. 그럴 때 비로소 AI는 사용자의 말을 대신 해석해 버리는 존재가 아니라, 사용자가 정말 원하는 것에 더 가까이 가도록 돕는 존재가 된다.

그리고 바로 그 지점에서, 말은 더 이상 단순한 전달 수단이 아니라 설계의 문제가 된다. 우리는 이제 '대충 알아듣겠지'의 시대를 지나, '어떻게 하면 의미적 공백을 최대한 줄일 수 있는가'를 고민해야 하는 시대에 들어왔다. 21세기의 핵심 역량은 많이 말하는 능력이 아니라, 정확히 말하는 능력이다. 그리고 21세기의 좋은 AI는 많이 아는 AI가 아니라, 정확하지 않을 때 되물을 줄 아는 AI다. 되물을 줄 아는 AI를 설계하는 것에 대해 고려해야한다.

59 views백휘, 10:49