🔍이번엔 AI Agent 관련 얘기를 한 번 해볼라고 합니다. AI파헤치기1

이 글을 과연 얼마나 많은 분들이 보실 진 모르겠지만, 그래도 기본적으로 AI AGENT를 자기 스스로 만들거나 구동하고자 한다면 기본적으로 알아야되는 내용이기도 하니까 한 번쯤은 읽어보시는거 추천드립니다.

크립토랑 과연 얼마나 연관이있는 내용일지는 저는 잘 모르겠습니다.
기본적으로 크립토씬의 AI Agent는 Web2시장에서의 AI Agent와 다른 느낌이라서요 ㅎㅎ....

아마 시리즈물이 될거 같은데 일단 오늘은 그 첫 번째로 LLM에 관련한 내용입니다.

🛎LLM? AI?
LLM은 AI의 핵심 요소 중 하나인데요.
LLM이란 대규모 언어 모델(Large Language Model)이라는 약자인 것은 아시는 분들이 많을 거에요.

이 모델은 여러개가 존재합니다.
가장 대표적으로 GPT-3, GPT-3.5, GPT-4o 등등이 있죠.
이 애들에게 우리가 질문을 하게 되면 읽고 이해해서 우리에게 다시 적합한 답변을 주는 방식으로 이뤄집니다.

이 과정에서 우리의 질문을 LLM들은 곧이곧대로 이해하진 못해요. 아무리 성능이 올라왔다고 할 지언정 LLM은 어쨌든 바보거든요.

그래서 LLM모델들이 이해하기 위해 우리의 질문을 단어~구문단위로 자르는 chunk라는 과정을 거치게 됩니다.
그러면 이 chunk된 쪼가리들을 LLM모델이 읽어서 각각의 chunk를 이해하고 각각의 질문을 찾고 조합해서 답변하는 방식이죠.

하지만 이런 모델이 유료모델인 이유는 우리는 API를 통해서 LLM이 본인들이 학습된 내용들을 기반으로 처리를 해서 다시 내뱉어줘야되는데 그 사이에 연산이나 본인들만의 학습정보가 제공되서 돈을 받고 준다고 보시면 되겠습니다.
➡️아, API는 돈내야됩니다. 그냥 앱에서 하는건 무료버전이 있지만, API로 가져오는건 무조건 돈내야돼요.

이렇게 가져온 내용들을 우리는 활용하는 거죠.
이게 기본적인 LLM의 구성방식입니다.

무료 모델로는 Ollama가 있는데, 좋은 성능일 수록 자체적으로 GPU성능도 좋고 RAM도 많고 뭐 그래야되는 사양적인 이슈가 있기 때문에 개인들인 유료모델을 사용하는 편이라고 보시면 됩니다.

현재 모델의 순위는

1. Claude3.5
2. GPT-o3
3. Gemini 2.0
4. LLama 3.3
5. GPT-o1

대충 이정도라고 보시면 되겠네요.

대부분의 AI Agent들은 저런 모델들을 유기적으로 연결시킨 녀석이라고 보시면 됩니다.

기존의 LLM모델은
"내가 질문하면 LLM이 답을 준다" 라는 1차원적인 흐름이었다면
AI Agent들은
"내가 질문하면 LLM이 다른 LLM에게 답을 주고, 그걸 다시 LLM이 활용해서 답을 내서, 최적의 답변을 나에게 준다"라는 다차원적인 흐름이죠.

이게 가능한 이유는
이미 챗GPT같은 앱을 사용해보셨다면 아시겠지만, 같은 질문을 하더라도 새 챗봇마다 다른 답변을 내기 때문에 각각 다른 인격체처럼 수행한다는 것이죠.

이 흐름을 바탕으로 업무를 지시할 수도, 나만의 비서처럼 활용할 수도 있다고 보시면 됩니다.
그 중에 예약같은건 좌표 클릭과 같은 매크로를 추가해서 진행하는 방식이라고 보시면 되겠습니다.

결론적으로는 이렇습니다.
AI Agent는 LLM모델을 여러개 생성해서 유기적으로 묶어 활용하는 봇이다.

여기까지 이해하시면 기본적인 AI Agent가 어떻게 수행하는구나~ 라는 것을 아실 수 있게 되는데요.

다음 시간엔 AI Agent를 구성하기 위해 LLM모델을 묶어주는 여러 요소들에 대해 정리해드리겠습니다.
➡️그 중에 RAG도 있습니다.😁

#AI #Agent #LLM #봇

🔍AI Agent를 구성하려면 어떻게 처리해야될까? - AI파헤치기2

이번엔 두 번째 시간으로 돌아온 AI 파헤치기입니다.

지난번엔 LLM과 AI가 뭔지 기본적인 개념에 대한 설명이었다면 이번엔 그 개념을 바탕으로 현재 AI Agent가 어떻게 굴러가는지를 설명해드리려고해요.

지난번 요약부터 해드리자면, LLM은 대규모 언어 모델의 약자로 AI모델들이 존재하며, 각각의 모델들의 성능이 달라서 사용할 때 모델을 원하는대로 써야되지만, 대부분이 유료기 때문에 유료결제 후 사용한다고까지 말씀드렸었죠.

그리고 Ai Agent는 이런 모델들을 유기적으로 연결시킨 녀석이라고 까지요.

🛎그럼 이제 AI Agent에 대해 설명드리겠습니다.

일단, LLM 모델들은 모두 무료버전과 유료버전이 존재하죠.
그 흔한 chatGPT조차도 무료버전과 유료버전으로 나뉩니다.

하지만, 유료버젼에도 여러가지가 나뉘는데요.
바로 단순 챗봇형태의 유료버전과 API형태의 유료버전입니다.
챗봇형태는 우리가 글이나 말로 LLM 모델에게 뭔가를 보여달라고 하면, 스스로 답을 내려서 처리해주는 형태이고,
API형태는 우리가 코드로 뭔가 명령을 지시하면, chunk된 단어의 갯수에 따라 요금이 부과되는 방식이라고 보시면 되겠습니다.

왜 요즘 이런앱들 있잖아요.
👉Speak같이 생성형AI를 활용해서 서비스를 제공하는 앱들같은거요. 얘네들이 생성형AI를 직접만든게 아니라 저렇게 API로 연결해서 원하는대로 답변이 처리되게끔 조금 손 본 방식으로 AI를 활용한겁니다.

아무튼 코딩으로 뭔가를 생성형AI를 활용하려면 "무조건" API결제를 해야지만 사용이 가능한데, AI Agent도 바로 그 축에 속합니다.
AI Agent라는 것 자체가 코딩으로 이루어지기 때문에 이걸 만들기 위해선 API로 활용되는 모델들이 필수인 것이죠.
뭐... 최근엔 GPT-Pro라고 320달러인가 주면 AI Agent기능 쓸 수 있게 해준다는데... 직접만들 수만 있으면 오히려 이거보단 더 쌀거에요.

그럼 AI Agent로 일을 시키면 바로 일을 처리해주냐? 라고 생각하실 수 있는데 그건 또 아닙니다.
AI Agent를 개발하기 위해 쓸 수 있는 도구들은 대표적으로 3가지가 있는데

1. Autogen
2. CrewAI
3. LangChain

이렇게 있습니다.

각각의 장단점이 있지만 똑같이 AI Agent라고 할 수 있는 도구들이라고 보시면 되겠는데요.

API를 쓴다고 했잖아요?
근데, 이미 생성형AI를 쓰신 분들이라면 아실텐데, 내가 새로운 프롬프트마다 질문을 주면 답변하는 AI의 사고나 정리방식 등등이 다르다는 것을 알 수 있습니다.
즉, 하나의 프롬프트마다 별개의 객체가 생성되서 활동한다는 것이죠.

이 점에 착안해 AI객체를 2~3개를 만들어서 서로에게 역할을 주고, 그걸 총괄적으로 합쳐서 처리하도록 만든 도구들이 저 위의 3가지 도구들이라고 보시면 되겠습니다.

그래서 사용하는 방식만 약간씩 다를 뿐, 결과적으로는 본인이 필요한 만큼 AI객체를 여러개 생성하고, 그 AI객체들에게 각각의 미션을 준 뒤 수행 후 처리된 결과를 하나로 받아보는 프로세스라고 보시면 되겠습니다.

가령 기획서를 써야될 때 기획안을 쓰려면 자료조사, 자료정리, 보고서작성, 오탈자검수, 내용검토 이렇게 5개의 파트가 필요한데 각각의 파트의 역할을 수행할 AI들을 두고요.
업무지시를 받고, 다시 보고해주는 책임 AI까지 총 6개의 AI객체를 통해 업무를 수행하게 된다면 기존의 생성형AI에게 물어봐서 받은 답변보다 훨씬 고퀄리티의 답변을 받을 수 있게 되는 것입니다.

그리고 실제로 이런 방식을 통해 1인 게임개발이나 1인 사업을 하는 사람도 많아지고 있는 추세이기도 하죠.

그치만 그래도 약간의 답변의 퀄리티라던지 보고서의 오류가 있을 수도 있습니다.
왜냐면 AI자체가 완벽하진 않기 때문인데요.

이런 점을 좀 더 보완하고자 나온 것이 RAG라는 기술이라고 보시면 되겠습니다.
이미 현재의 AI Agent들은 RAG기술을 대다수 도입해놓은 상태이고, 이걸 위해 사용하는 도구가 바로 LangChain인데요.
이런 점에서 LangChain을 업그레이드 시킨 도구인 LangGraph라는 것이 등장하게 되었고, 여기에 RAG를 도입했더니 퀄리티가 훨씬 우수해졌다고합니다.

그래서 다음 시간에는 좀 더 딥하게 들어가서 AI Agent를 위한 도구인 LangGraph와 RAG에 대해서 좀 심도있게 설명드리도록 하겠습니다.
이 LangGraph와 RAG덕에 대부분의 자동화 트위터봇, 디스코드봇, 텔레그램봇들이 자기가 원하는 주제에 한해서만 오류가 없이 글, 이미지를 올리고 삭제하고 수정하고, 댓글다는 등의 역할을 수행하기에 좋아졌다고 보시면 되겠네요.

그럼 다음 3편으로 찾아뵙겠습니다!

#AI #Agent #LLM #봇