🔍AI Agent를 구성하려면 어떻게 처리해야될까? - AI파헤치기2

이번엔 두 번째 시간으로 돌아온 AI 파헤치기입니다.

지난번엔 LLM과 AI가 뭔지 기본적인 개념에 대한 설명이었다면 이번엔 그 개념을 바탕으로 현재 AI Agent가 어떻게 굴러가는지를 설명해드리려고해요.

지난번 요약부터 해드리자면, LLM은 대규모 언어 모델의 약자로 AI모델들이 존재하며, 각각의 모델들의 성능이 달라서 사용할 때 모델을 원하는대로 써야되지만, 대부분이 유료기 때문에 유료결제 후 사용한다고까지 말씀드렸었죠.

그리고 Ai Agent는 이런 모델들을 유기적으로 연결시킨 녀석이라고 까지요.

🛎그럼 이제 AI Agent에 대해 설명드리겠습니다.

일단, LLM 모델들은 모두 무료버전과 유료버전이 존재하죠.
그 흔한 chatGPT조차도 무료버전과 유료버전으로 나뉩니다.

하지만, 유료버젼에도 여러가지가 나뉘는데요.
바로 단순 챗봇형태의 유료버전과 API형태의 유료버전입니다.
챗봇형태는 우리가 글이나 말로 LLM 모델에게 뭔가를 보여달라고 하면, 스스로 답을 내려서 처리해주는 형태이고,
API형태는 우리가 코드로 뭔가 명령을 지시하면, chunk된 단어의 갯수에 따라 요금이 부과되는 방식이라고 보시면 되겠습니다.

왜 요즘 이런앱들 있잖아요.
👉Speak같이 생성형AI를 활용해서 서비스를 제공하는 앱들같은거요. 얘네들이 생성형AI를 직접만든게 아니라 저렇게 API로 연결해서 원하는대로 답변이 처리되게끔 조금 손 본 방식으로 AI를 활용한겁니다.

아무튼 코딩으로 뭔가를 생성형AI를 활용하려면 "무조건" API결제를 해야지만 사용이 가능한데, AI Agent도 바로 그 축에 속합니다.
AI Agent라는 것 자체가 코딩으로 이루어지기 때문에 이걸 만들기 위해선 API로 활용되는 모델들이 필수인 것이죠.
뭐... 최근엔 GPT-Pro라고 320달러인가 주면 AI Agent기능 쓸 수 있게 해준다는데... 직접만들 수만 있으면 오히려 이거보단 더 쌀거에요.

그럼 AI Agent로 일을 시키면 바로 일을 처리해주냐? 라고 생각하실 수 있는데 그건 또 아닙니다.
AI Agent를 개발하기 위해 쓸 수 있는 도구들은 대표적으로 3가지가 있는데

1. Autogen
2. CrewAI
3. LangChain

이렇게 있습니다.

각각의 장단점이 있지만 똑같이 AI Agent라고 할 수 있는 도구들이라고 보시면 되겠는데요.

API를 쓴다고 했잖아요?
근데, 이미 생성형AI를 쓰신 분들이라면 아실텐데, 내가 새로운 프롬프트마다 질문을 주면 답변하는 AI의 사고나 정리방식 등등이 다르다는 것을 알 수 있습니다.
즉, 하나의 프롬프트마다 별개의 객체가 생성되서 활동한다는 것이죠.

이 점에 착안해 AI객체를 2~3개를 만들어서 서로에게 역할을 주고, 그걸 총괄적으로 합쳐서 처리하도록 만든 도구들이 저 위의 3가지 도구들이라고 보시면 되겠습니다.

그래서 사용하는 방식만 약간씩 다를 뿐, 결과적으로는 본인이 필요한 만큼 AI객체를 여러개 생성하고, 그 AI객체들에게 각각의 미션을 준 뒤 수행 후 처리된 결과를 하나로 받아보는 프로세스라고 보시면 되겠습니다.

가령 기획서를 써야될 때 기획안을 쓰려면 자료조사, 자료정리, 보고서작성, 오탈자검수, 내용검토 이렇게 5개의 파트가 필요한데 각각의 파트의 역할을 수행할 AI들을 두고요.
업무지시를 받고, 다시 보고해주는 책임 AI까지 총 6개의 AI객체를 통해 업무를 수행하게 된다면 기존의 생성형AI에게 물어봐서 받은 답변보다 훨씬 고퀄리티의 답변을 받을 수 있게 되는 것입니다.

그리고 실제로 이런 방식을 통해 1인 게임개발이나 1인 사업을 하는 사람도 많아지고 있는 추세이기도 하죠.

그치만 그래도 약간의 답변의 퀄리티라던지 보고서의 오류가 있을 수도 있습니다.
왜냐면 AI자체가 완벽하진 않기 때문인데요.

이런 점을 좀 더 보완하고자 나온 것이 RAG라는 기술이라고 보시면 되겠습니다.
이미 현재의 AI Agent들은 RAG기술을 대다수 도입해놓은 상태이고, 이걸 위해 사용하는 도구가 바로 LangChain인데요.
이런 점에서 LangChain을 업그레이드 시킨 도구인 LangGraph라는 것이 등장하게 되었고, 여기에 RAG를 도입했더니 퀄리티가 훨씬 우수해졌다고합니다.

그래서 다음 시간에는 좀 더 딥하게 들어가서 AI Agent를 위한 도구인 LangGraph와 RAG에 대해서 좀 심도있게 설명드리도록 하겠습니다.
이 LangGraph와 RAG덕에 대부분의 자동화 트위터봇, 디스코드봇, 텔레그램봇들이 자기가 원하는 주제에 한해서만 오류가 없이 글, 이미지를 올리고 삭제하고 수정하고, 댓글다는 등의 역할을 수행하기에 좋아졌다고 보시면 되겠네요.

그럼 다음 3편으로 찾아뵙겠습니다!

#AI #Agent #LLM #봇