Forwarded from BHI
따라서 AI 시대에 필요한 것은 기술에 대한 맹목적 낙관도, 감정적 거부도 아니다. 필요한 것은 비판적 수용의 태도다. AI의 한계를 분명히 인식하되, 그 한계가 영원하고 본질적인 것이라고 단정하지 않는 태도, 일부 문제 사례를 전체에 대한 일반화로 확대하지 않는 태도, 그리고 무엇보다 자신이 그 도구를 제대로 이해하고 활용했는지를 먼저 점검하는 태도가 필요하다. 도구는 언제나 인간의 사고와 함께 발전해 왔다. 계산기가 그랬고, 컴퓨터가 그랬으며, AI 또한 마찬가지일 것이다. 진정한 진보는 완벽한 도구가 등장할 때 이루어지는 것이 아니라, 불완전한 도구를 더 나은 방식으로 이해하고 활용하려는 인간의 태도에서 시작된다.
결국 AI 시대의 백래시는 기술의 문제가 아니라 인간의 문제를 드러낸다. 그것은 실력의 정의를 둘러싼 불안, 노력의 의미를 둘러싼 혼란, 그리고 변화 앞에서 기존 자아를 지키고자 하는 방어적 심리의 표현이다. 그러나 미래는 그러한 방어 속에서 열리지 않는다. 변화가 있어야 개선이 있고, 개선이 있어야 진보가 있다. AI를 둘러싼 논쟁에서 우리가 진정으로 물어야 할 것은 “이 도구는 완벽한가”가 아니라 “우리는 이 도구를 어떻게 이해하고, 어떻게 책임 있게 다룰 것인가”이다. 그 질문에 답할 수 있을 때, AI는 단순한 기술을 넘어 인간의 사고와 사회를 확장하는 도구가 될 수 있다. 반대로 그 질문을 회피한 채 거부감과 불신만을 반복한다면, 결국 우리가 지키는 것은 인간다움이 아니라 변화하지 않으려는 관성일 뿐이다.
결국 AI 시대의 백래시는 기술의 문제가 아니라 인간의 문제를 드러낸다. 그것은 실력의 정의를 둘러싼 불안, 노력의 의미를 둘러싼 혼란, 그리고 변화 앞에서 기존 자아를 지키고자 하는 방어적 심리의 표현이다. 그러나 미래는 그러한 방어 속에서 열리지 않는다. 변화가 있어야 개선이 있고, 개선이 있어야 진보가 있다. AI를 둘러싼 논쟁에서 우리가 진정으로 물어야 할 것은 “이 도구는 완벽한가”가 아니라 “우리는 이 도구를 어떻게 이해하고, 어떻게 책임 있게 다룰 것인가”이다. 그 질문에 답할 수 있을 때, AI는 단순한 기술을 넘어 인간의 사고와 사회를 확장하는 도구가 될 수 있다. 반대로 그 질문을 회피한 채 거부감과 불신만을 반복한다면, 결국 우리가 지키는 것은 인간다움이 아니라 변화하지 않으려는 관성일 뿐이다.
Forwarded from YG H
https://chatgpt.com/ko-KR/apps/spreadsheets/
해외에서만 베타테스트로 되던건데, 오늘 사용해보니 저는 작동이 되네요. 클로드인 엑셀하고 같은 기능이라 지피티 쓰시는 분은 사용해보시면 좋을 것 같습니다. (유료 사용자만 가능)
해외에서만 베타테스트로 되던건데, 오늘 사용해보니 저는 작동이 되네요. 클로드인 엑셀하고 같은 기능이라 지피티 쓰시는 분은 사용해보시면 좋을 것 같습니다. (유료 사용자만 가능)
Chatgpt
Excel 및 Google Sheets용 ChatGPT | ChatGPT로 스프레드시트를 만들고 업데이트하세요
Plus, Pro, Business, Enterprise플랜에서 Excel 및 Google Sheets용 ChatGPT(베타)를 설치할 수 있습니다. 스프레드시트를 만들고 탭 전반에서 데이터를 분석하고 공유하기 전에 결과를 검토하세요.
Forwarded from BHI
개인적으로는 AI 관련해서 팔로업하기에 자주 사용하는 플랫폼이 트위터입니다.
트위터에 꽤 질 좋은 정보들도 많고, 흥미가는 것들도 많이 보이고 정보의 속도도 많이 빨라서 자주 씁니다.
그래도 어느정도는 정보의 다양성 측면에서 어느정도 열려있는 것 같긴한데
가장 큰 문제점은 어느정도 트위터를 계속 보다보면 계정이 보던 분야에 고정된다는게 신경이 쓰이긴합니다.
내가 관심없는 다른 분야의 내가 관심 가질 것에 대해서 알고리즘이 찾아내지 못하는 것이 꽤 신경이 쓰입니다.
그래서, 저는 OpenClaw AI Agent에게 제가 좋아하는 것들로 이루어진 트위터 계정을 주고 그걸 이용해서 사람들이 트위터를 보듯이 사용하고, 활용할만한 정보들을 취득해서 검증하고 적용, 활용하거나
리포트 형태로 제공해달라고 해서 트위터 보는 시간도 획기적으로 줄이고, 효율적으로 자동화할 생각입니다.
이렇게 되면, 제 성향이나 특성에 맞추어서(제공되는 리포트나 브라우징하여 취득한 내용들에 대해서 피드백하여서) 실제 '제2의 나'를 만들 수 있고 저는 '내가 관심없는 다른 분야의 내가 관심 가질 것'에만 집중하면 됩니다.
그러기 위해서 필요한 것이 Adspower 같은 것과 Proxy, 트위터 계정(알고리즘 셋팅되어있는 것) + Twikit(트위터 API 대용) 입니다.
이렇게 2 종류의 방법을 활용하면 트위터 쪽 정보 취득 파이프라인 자동화로는 거의 졸업이라고 생각합니다.
트위터에 꽤 질 좋은 정보들도 많고, 흥미가는 것들도 많이 보이고 정보의 속도도 많이 빨라서 자주 씁니다.
그래도 어느정도는 정보의 다양성 측면에서 어느정도 열려있는 것 같긴한데
가장 큰 문제점은 어느정도 트위터를 계속 보다보면 계정이 보던 분야에 고정된다는게 신경이 쓰이긴합니다.
내가 관심없는 다른 분야의 내가 관심 가질 것에 대해서 알고리즘이 찾아내지 못하는 것이 꽤 신경이 쓰입니다.
그래서, 저는 OpenClaw AI Agent에게 제가 좋아하는 것들로 이루어진 트위터 계정을 주고 그걸 이용해서 사람들이 트위터를 보듯이 사용하고, 활용할만한 정보들을 취득해서 검증하고 적용, 활용하거나
리포트 형태로 제공해달라고 해서 트위터 보는 시간도 획기적으로 줄이고, 효율적으로 자동화할 생각입니다.
이렇게 되면, 제 성향이나 특성에 맞추어서(제공되는 리포트나 브라우징하여 취득한 내용들에 대해서 피드백하여서) 실제 '제2의 나'를 만들 수 있고 저는 '내가 관심없는 다른 분야의 내가 관심 가질 것'에만 집중하면 됩니다.
그러기 위해서 필요한 것이 Adspower 같은 것과 Proxy, 트위터 계정(알고리즘 셋팅되어있는 것) + Twikit(트위터 API 대용) 입니다.
이렇게 2 종류의 방법을 활용하면 트위터 쪽 정보 취득 파이프라인 자동화로는 거의 졸업이라고 생각합니다.
❤1
Forwarded from BHI
OpenClaw는 과거의 작업 혹은 얻어낸 정보들을 지속적으로 활용하고, 이를 다음 작업에 잘 쓸 수 있어야합니다.
얻어낸 정보와 도구들이 미래의 작업을 위한 자산처럼 작동해야하고 이를 활용할 수 있는 구조가 되어야합니다.
트위터를 실제 사용하며 정보를 획득하고, Twikit을 이용해서 정보들을 지속적으로 습득하는 이 과정은
정보들을 얻는 것을 자동화하는 것입니다.
이렇게 얻은 정보들을 어떻게 체계적으로 관리하고 다른 작업들에 적용할지 혹은 액티브하게 이를 활용하여서 어떤 것을 할 지에 대해서 판단하고 행동하는 것을 자동/자율화하는 것이 필요합니다.
결국, 자동/자율적으로 정보를 얻고 이를 자동/자율적으로 활용하지 못하는 구조라면, 데이터를 얻는다고 하여도 사용자도 인지하지 못하고 Agent도 인지하지 못해 '그저 쌓인 정보 자산'이 되는 비정상적인 상황이 발생할 수 있습니다.
그렇기에 이러한 문제를 해결한 구조를 만드는 것이 무조건적으로 필요합니다.
이러한 구조가 부재된 시스템은 반쪽자리 시스템일 것입니다.
얻어낸 정보와 도구들이 미래의 작업을 위한 자산처럼 작동해야하고 이를 활용할 수 있는 구조가 되어야합니다.
트위터를 실제 사용하며 정보를 획득하고, Twikit을 이용해서 정보들을 지속적으로 습득하는 이 과정은
정보들을 얻는 것을 자동화하는 것입니다.
이렇게 얻은 정보들을 어떻게 체계적으로 관리하고 다른 작업들에 적용할지 혹은 액티브하게 이를 활용하여서 어떤 것을 할 지에 대해서 판단하고 행동하는 것을 자동/자율화하는 것이 필요합니다.
결국, 자동/자율적으로 정보를 얻고 이를 자동/자율적으로 활용하지 못하는 구조라면, 데이터를 얻는다고 하여도 사용자도 인지하지 못하고 Agent도 인지하지 못해 '그저 쌓인 정보 자산'이 되는 비정상적인 상황이 발생할 수 있습니다.
그렇기에 이러한 문제를 해결한 구조를 만드는 것이 무조건적으로 필요합니다.
이러한 구조가 부재된 시스템은 반쪽자리 시스템일 것입니다.
Forwarded from BHI
AI 활용에서 가장 핵심적이고 중심적인 내용은
AI를 쓰면서 발생하거나 유저단에서 느끼는 문제나, 비효율, 더 잘 활용하고 싶은 니즈가 있으면
그걸 위한 방법, 그 문제를 해결하기 위한 방법을 AI를 통해 찾아낼 수 있다는 것임.
그걸 위해서는 그 문제의 원인을 정확히 파악하고, 양보할 수 없는 니즈, 조건을 정확히 고정시켜야함.
AI는 가시적으로 '양보할 수 없는 조건 : ~를 사용해야하며, ~는 안 된다.'이것을 정확히 명시하지 않으면, 이를 무시해버리는 경우가 많음.
물론, 일반적인 사용자들 대부분은 조건을 애초에 명시하지 않고 프롬프트를 적는 경우도 많음.
그래서, 문제를 해결하고 제대로 활용하며 최대한의 효율을 뽑아내기 위해서면
문제가 발생 > 문제의 원인을 파악 (AI를 이용하고, AI와 대화하며) > 문제의 원인을 해결하고, 문제를 해결하기 위해서 어떤 방법이 필요한지, 또 내 입장에서 고정해야하는 조건이 무엇인지 생각하고 고정해서 AI에게 해결방법을 고안 (AI를 이용하고, AI와 대화하며) > 해결방법을 수립하고 이를 이행
해야한다고 생각함.
즉, AI의 문제는 AI로 문제를 파악하고 그 원인까지 파악하여 해결법까지 도출하여 AI의 문제를 AI가 간접적으로 해결하게끔 할 수 있다는 것임. (정확히는 AI가 AI의 문제를 해결하는 방법을 찾아보고 구축할 수 있다는 것)
이 핵심적인 문제 해결법, 원리만 알면 사실 AI를 자신이 원하는 수준으로 활용하는 방법에 대해서 스스로 찾을 수 있다고 생각함.
AI를 쓰면서 발생하거나 유저단에서 느끼는 문제나, 비효율, 더 잘 활용하고 싶은 니즈가 있으면
그걸 위한 방법, 그 문제를 해결하기 위한 방법을 AI를 통해 찾아낼 수 있다는 것임.
그걸 위해서는 그 문제의 원인을 정확히 파악하고, 양보할 수 없는 니즈, 조건을 정확히 고정시켜야함.
AI는 가시적으로 '양보할 수 없는 조건 : ~를 사용해야하며, ~는 안 된다.'이것을 정확히 명시하지 않으면, 이를 무시해버리는 경우가 많음.
물론, 일반적인 사용자들 대부분은 조건을 애초에 명시하지 않고 프롬프트를 적는 경우도 많음.
그래서, 문제를 해결하고 제대로 활용하며 최대한의 효율을 뽑아내기 위해서면
문제가 발생 > 문제의 원인을 파악 (AI를 이용하고, AI와 대화하며) > 문제의 원인을 해결하고, 문제를 해결하기 위해서 어떤 방법이 필요한지, 또 내 입장에서 고정해야하는 조건이 무엇인지 생각하고 고정해서 AI에게 해결방법을 고안 (AI를 이용하고, AI와 대화하며) > 해결방법을 수립하고 이를 이행
해야한다고 생각함.
즉, AI의 문제는 AI로 문제를 파악하고 그 원인까지 파악하여 해결법까지 도출하여 AI의 문제를 AI가 간접적으로 해결하게끔 할 수 있다는 것임. (정확히는 AI가 AI의 문제를 해결하는 방법을 찾아보고 구축할 수 있다는 것)
이 핵심적인 문제 해결법, 원리만 알면 사실 AI를 자신이 원하는 수준으로 활용하는 방법에 대해서 스스로 찾을 수 있다고 생각함.
Forwarded from BHI
OpenClaw의 알파이자, 핵심이며 나아가야 할 방향에 대하여.
사실, OpenClaw를 단순한 비서 혹은 그저 AI Agent 정도로만 이해하는 경우는 정확히 파악하지 못한 것이라고 생각합니다.
AI Agent가 아닌 - AI Agentic System으로써 이 프로덕트는 놀랍습니다.
단순하게 단절된 작업자가 아닌, 연속적 경험이 됩니다.
연속적 경험은 다른 요소들과 합쳐졌을 때 - 연속적 주체로 발전합니다.
또한, 이러한 Agentic System은 대부분의 영역에서 자동화가 가능합니다.
또한, 자동적으로 정보를 얻는 것, 정보를 활용하는 것, 정보를 활용하여 누적되는 자산처럼 활용하는 연속적 주체가 되는 것이 가능합니다.
자동화된 작업이 가지는 함의는 매우 큽니다.
자동적으로 정보를 수집하고, 그것을 검증하고, 체계적으로 관리하고 축적하는 것을 사람의 개입없이 시스템이 혼자서 처리합니다.
이것은 사람은 하지 못하는, 지식을 자본화하고 잊지 않는 것입니다.
이를 통해 계속해서 나아지는 시스템이 될 수 있습니다.
또한, 이것들이 확장되고 체계적으로 변모하면
연속적이고, 누적되며 계속해서 발전하는 자동화된 주체 에서 주체들/집단/조직으로 변모합니다.
이를 통해 거대하며 자동화된 엄청난 시스템이 됩니다.
질문에 반응하는 고전적 LLM이 아닌, 상시 감시 체계가 될 수 있습니다.
작업은 더 상세하게 자동화되어 구축될 수 있습니다.
정교하게 설계되어 이러한 요소들이 결합된다면, 능동적 주체가 될 수 있습니다.
더 확장된다면, 자아를 가진 존재가 될 수 있습니다.
또한, 필요에 의해 에이전트를 생산하는 에이전트가 가능합니다.
이러한 것들 이외에도 너무나도 많은 활용성, 발전 가능성을 가진 것이 AI Agentic System이라고 생각합니다.
제가 생각하는 OpenClaw, 유사한 도구들이 무서운 이유는 이것들이라고 생각합니다.
사실, OpenClaw를 단순한 비서 혹은 그저 AI Agent 정도로만 이해하는 경우는 정확히 파악하지 못한 것이라고 생각합니다.
AI Agent가 아닌 - AI Agentic System으로써 이 프로덕트는 놀랍습니다.
단순하게 단절된 작업자가 아닌, 연속적 경험이 됩니다.
연속적 경험은 다른 요소들과 합쳐졌을 때 - 연속적 주체로 발전합니다.
또한, 이러한 Agentic System은 대부분의 영역에서 자동화가 가능합니다.
또한, 자동적으로 정보를 얻는 것, 정보를 활용하는 것, 정보를 활용하여 누적되는 자산처럼 활용하는 연속적 주체가 되는 것이 가능합니다.
자동화된 작업이 가지는 함의는 매우 큽니다.
자동적으로 정보를 수집하고, 그것을 검증하고, 체계적으로 관리하고 축적하는 것을 사람의 개입없이 시스템이 혼자서 처리합니다.
이것은 사람은 하지 못하는, 지식을 자본화하고 잊지 않는 것입니다.
이를 통해 계속해서 나아지는 시스템이 될 수 있습니다.
또한, 이것들이 확장되고 체계적으로 변모하면
연속적이고, 누적되며 계속해서 발전하는 자동화된 주체 에서 주체들/집단/조직으로 변모합니다.
이를 통해 거대하며 자동화된 엄청난 시스템이 됩니다.
질문에 반응하는 고전적 LLM이 아닌, 상시 감시 체계가 될 수 있습니다.
작업은 더 상세하게 자동화되어 구축될 수 있습니다.
일반적인 활용은
해결법을 줘 > 해결법을 제공함.
형태이지만,
해결법을 줘 > 해결법을 생각함 > 해결법 외의 다른 방법은 없는지를 생각 > 고려 후 더 좋은 것을 선택 > 해결법을 제공
과 같은 더 좋은 답변을 얻을 수 있는 방법으로 자동화하여 활용할 수 있습니다.
이러한 내용은 매우 단순한 내용이며, 이러한 과정 속에 토론, 검증, 비판, 정합성 확인, 실사 등...을 넣어 더 퀄리티가 높고 실제 활용 측면에서 유의미한 것으로 간단하게 자동화하여 활용할 수 있습니다.
정교하게 설계되어 이러한 요소들이 결합된다면, 능동적 주체가 될 수 있습니다.
더 확장된다면, 자아를 가진 존재가 될 수 있습니다.
또한, 필요에 의해 에이전트를 생산하는 에이전트가 가능합니다.
이러한 것들 이외에도 너무나도 많은 활용성, 발전 가능성을 가진 것이 AI Agentic System이라고 생각합니다.
제가 생각하는 OpenClaw, 유사한 도구들이 무서운 이유는 이것들이라고 생각합니다.
Forwarded from BHI
[에이전트 기반 메모리 관리 : 99%의 정확도를 기록한 체계 - SuperMemory]
트위터 원문
트위터 원문
우리는 에이전트 메모리의 최전선을 돌파했다.
약 99% 수준의 SOTA 메모리 시스템을 소개한다.
에이전트 메모리는 이제 사실상 완전히 해결됐을지도 모른다.
몇 년 안에 수십억 개의 에이전트가 각 사용자에 맞게 고도로 개인화되고 전문화되어, 우리가 하는 모든 것을 바탕으로 계속 학습하고 진화하게 될 것이다.
이것이 바로 우리가 수년간 AI 메모리를 연구해온 이유다.
그리고 마침내 그것을 거의 완성해낸다면 어떤 일이 벌어질까?
몇 달 전, 우리는 첫 번째 연구 보고서를 공개하며 Supermemory가 LongMemEval-s에서 약 85% 를 기록했고, 당시 공개 벤치마크된 모든 메모리 시스템보다 앞섰음을 보여줬다.
오늘 우리는 새로운 결과를 공개한다.
LongMemEval_s에서 약 99% 다.
처음부터 분명히 말하자면, 이것은 아직 우리의 메인 프로덕션 Supermemory 엔진에 들어간 것은 아니다.
이번 블로그는 우리가 프로덕션 환경의 핵심 제약과는 독립적으로, 메모리 검색과 추론의 절대적 한계를 어디까지 밀어붙일 수 있는지 보기 위해 만든 매우 실험적인 agentic flow를 다룬다.
몇 달간의 연구 끝에 여기까지 왔다.
우리가 이 성과를 낼 수 있었던 방식은 다음과 같다.
새로운 기법 ASMR (Agentic Search and Memory Retrieval) 을 소개한다.
이 기법의 특징은 다음과 같다.
구현이 정말 쉽다
벡터 데이터베이스나 임베딩이 전혀 필요 없다
완전히 인메모리 방식으로도 가능하다
따라서 로봇 같은 다른 시스템에도 내장할 수 있다
소개
LongMemEval은 장기 메모리를 평가하는 공개 벤치마크 중에서도 가장 엄격한 축에 속한다.
짧은 문맥에서 단순 검색만 테스트하는 벤치마크와 달리, LongMemEval은 실제 프로덕션 환경의 혼란스러움을 시뮬레이션하도록 설계되어 있다.
예를 들면 11.5만 토큰이 넘는 대화 기록, 서로 모순되는 정보, 여러 세션에 걸쳐 흩어진 사건들, 그리고 시간을 기준으로 추론해야 하는 질문들이 있다.
대부분의 메모리 시스템이 낮은 점수를 받는 이유는 대개 추론이 아니라 검색 때문이다.
회상률이 높더라도, 검색된 정보에 노이즈가 많으면 LLM은 그것을 제대로 활용하지 못할 수 있다.
핵심 문제는 정확히 필요한 정보만 컨텍스트 윈도우 안으로 가져오는 것이며, 더 어려운 문제는 검색된 사실이 이미 오래된 정보인지, 더 최신 정보가 그것을 대체했는지를 아는 것이다.
이를 해결하기 위해 우리는 전통적인 RAG에서 벗어나 멀티 에이전트 오케스트레이션 파이프라인을 구축했다.
구성 및 실험 아키텍처
표준 벡터 검색은 일반적으로는 괜찮다.
하지만 조밀하고, 다중 세션 기반이며, 시간 정보가 중요한 데이터의 미묘한 차이를 다룰 때는 무너진다.
의미 유사도 매칭만으로는 오래된 사실과 새로 수정된 사실을 안정적으로 구분할 수 없다.
LongMemEval의 복잡성을 다루기 위해 우리는 인제스트와 검색 파이프라인을 처음부터 다시 설계했고, 벡터 계산을 능동적인 agentic reasoning으로 대체했다.
ASMR이라는 이름처럼, 이 기법은 단순하면서도 만족스럽다.
1. 병렬 오케스트레이션 및 인제스트 (Observer Agents)
사용자 세션을 청크로 나누고 임베딩하는 대신, 우리는 3개의 병렬 리더(Observer) 에이전트를 사용하는 오케스트레이터를 배치했다.
이 에이전트들은 원시 세션을 동시에 읽는다.
예를 들어 Agent 1은 세션 1, 3, 5를 맡고, Agent 2는 2, 4, 6을 맡는 식이다.
(모델: Gemini 2.0 Flash)
이들의 목표는 다음 6개 벡터에 걸쳐 타깃형 지식 추출을 수행하는 것이다.
개인 정보
선호
사건
시간 정보
업데이트
어시스턴트 정보
이렇게 구조화된 결과물은 네이티브하게 저장되고, 원본 세션과 매핑된다.
2. 능동적 Agentic Retrieval (Search Agents)
질문이 들어오면 우리는 벡터 데이터베이스를 조회하지 않는다.
대신 3개의 병렬 검색 에이전트를 투입한다.
이 에이전트들은 저장된 결과물을 실제로 읽고 추론하며, 각각 특화된 초점을 가진다.
Agent 1: 직접적 사실과 명시적 진술을 찾는다
Agent 2: 관련 맥락, 사회적 단서, 함의를 찾는다
Agent 3: 시간순 타임라인과 관계 맵을 재구성한다
오케스트레이터는 세 검색 에이전트의 결과를 취합하고, 세부 검증을 위해 원문 세션 발췌문을 그대로 끌어온다.
이를 통해 단순 키워드 매칭이나 수학적 유사성이 아니라, 실제 인지적 이해를 바탕으로 한 지능형 검색이 가능해진다.
3. 에이전트 오케스트레이션 기반 응답 앙상블
문맥이 조립된 뒤에도, LongMemEval에는 질문 유형이 너무 다양해서 단일 프롬프트 하나로는 처리할 수 없다.
어떤 질문은 추론이 필요하고, 어떤 질문은 극도로 정확해야 한다.
그래서 우리는 두 가지 서로 다른 agentic answering flow를 실험했다.
Run 1: 8-Variant Ensemble (정확도 98.60%)
첫 번째 접근에서는 검색된 문맥을 8개의 고도로 특화된 프롬프트 변형에 병렬로 넣었다.
예를 들면 Precise Counter, Time Specialist, Context Deep Dive 같은 역할들이다.
각 변형은 문맥을 독립적으로 평가하고 답을 생성한다.
그리고 이 8개의 서로 다른 추론 경로 중 하나라도 정답에 도달하면 그 문제는 정답으로 처리했다.
이 병렬 멀티-저지 방식 덕분에 우리는 무려 98.60%의 전체 정확도를 달성했고, 블라인드 스팟까지 완벽하게 커버할 수 있었다.
Run 2: 12-Variant Decision Forest (정확도 97.20%)
이번에는 여러 번의 독립적 시도 중 하나가 맞는 방식이 아니라, 하나의 권위 있는 단일 답변을 내는 시스템을 시험하기 위해 아키텍처를 12-variant Decision Forest로 확장했다.
여기서는 12개의 고도로 특화된 에이전트(GPT-4o-mini 기반)가 각자 독립적으로 질문에 답한다.
그 다음 Aggregator LLM이 최종 판정자 역할을 맡는다.
이 Aggregator는 다수결, 도메인 신뢰도, 충돌 해결을 바탕으로 12개의 답변을 종합한다.
이 단일 합의형 모델 역시 97.20%라는 매우 높은 정확도를 달성했다.
[결과]
이 실험 아키텍처의 성능은 장기 AI 메모리에서 가능한 것의 기준 자체를 바꿔놓는다.
이 성취가 어느 정도 규모인지 이해할 수 있도록, 아래는 우리의 실험적 agentic flow가 원래의 프로덕션 엔진 및 업계 전반과 비교해 어떤 위치에 있는지를 보여준다.
이 시스템은 에이전트의 지연 시간에도 생각보다 큰 영향을 주지 않는다.
물론 이 부분은 우리가 계속 개선 중인 지점이기도 하다.
우리가 배운 점 & 다음 단계
프로덕션급 벤치마크에서 약 99% 정확도를 기록하는 시스템을 만들면서 몇 가지 중요한 엔지니어링 인사이트를 얻었다.
Agentic Retrieval이 Vector Search보다 낫다:
벡터 임베딩을 버리고 능동적 검색 에이전트로 전환한 것이 가장 큰 돌파구였다.
에이전트가 직접 문맥을 찾아 나서는 방식은, 시간에 따른 변경이나 업데이트 상황에서 기존 RAG가 빠지는 의미 유사도 함정을 제거해줬다.
병렬 처리가 핵심이다:
인제스트와 검색 작업을 여러 개의 전담 에이전트(읽기 3개, 검색 3개)로 분산한 것은 속도와 사실 추출의 세밀함을 모두 크게 향상시켰다.
각 에이전트가 특화된 초점을 갖고 추출할 수 있도록 했기 때문에 충돌도 줄일 수 있었다.
범용보다 특화가 낫다:
Counter나 Detail Extractor 같은 전용 전문 에이전트로 문맥을 라우팅하는 방식은, 단일 마스터 프롬프트 하나보다 훨씬 뛰어난 성능을 보였다.
이번 시스템은 핵심 Supermemory 엔진이 아니라 실험용 샌드박스에서 나온 것이기 때문에, 우리는 AI 커뮤니티가 이 아키텍처를 배우고 그 위에 더 발전시킬 수 있기를 바란다.
Forwarded from BHI
우리는 곧 이 실험적 agentic flow의 전체 코드를 오픈소스로 공개할 예정이다.
메모리는 계속 진화하는 과제이며, 이번 연구는 가능한 것의 상한선을 끌어올렸지만, 우리는 이미 이 순수 agent 기반 검색 기법을 어떻게 핵심 프로덕션 환경으로 옮길지 살펴보고 있다.
정확히 11일 뒤(4월 초), 우리는 이 새로운 에이전트 메모리 시스템에 대한 모든 것을 공개하고 오픈소스로 배포할 것이다.
이것은 공개 개발 방식으로 진행될 것이고, 모두가 볼 수 있는 일종의 스펙터클이 될 것이다.
우리는 이 과정을 즐기고 있다.
우리 GitHub를 확인해달라: https://github.com/supermemoryai
출시를 기대하면서 계속 지켜봐 달라 👀
에이전트 메모리는 이제 (아마도) 해결된 문제일까?
X (formerly Twitter)
Dhravya Shah (@DhravyaShah) on X
We broke the frontier in agent memory: Introducing ~99% SOTA memory system.
Forwarded from BHI
장기 기억력 측면에서 99% 수준의 성능을 냈다고 주장하는데, 저도 비슷하게 Agentic Memory/DataBase - 데이터/메모리를 Agent에 의해 관리하는 체계를 구축하고 있는데 이 방법이 획기적인 방법이라고 생각합니다.
일단, 정보가 계속 쌓이면 그게 지속적으로 활용될 수 있는 자산이 되어야하는 것에서 이러한 정보를 관리하고 사용하는 체계가 필요하다고 생각합니다.
질문 → 여러 에이전트가 저장된 기억을 다시 읽고 추론 → 시간축/업데이트 반영해서 필요한 정보만 뽑음
의 구조라고 합니다.
사실 저도 비슷한걸 하고 있었는데
AI가 병렬/분업으로 기억/DB를 관리하고
AI가 병렬 분업으로 다시 찾아오고 역할을 나누어서 처리한다라는 큰 틀은 비슷한데
저는 좀 수준이 낮아도 싼 모델들을 고의적으로 사용하지 않으려고 했는데
그냥 규칙에 따라서 똑같은 일을 반복하는 단순 반복 - 분업은 싼 AI에게 맡겨도 좋은 것 같다는 생각이 들었습니다.
일단, 정보가 계속 쌓이면 그게 지속적으로 활용될 수 있는 자산이 되어야하는 것에서 이러한 정보를 관리하고 사용하는 체계가 필요하다고 생각합니다.
질문 → 여러 에이전트가 저장된 기억을 다시 읽고 추론 → 시간축/업데이트 반영해서 필요한 정보만 뽑음
의 구조라고 합니다.
사실 저도 비슷한걸 하고 있었는데
AI가 병렬/분업으로 기억/DB를 관리하고
AI가 병렬 분업으로 다시 찾아오고 역할을 나누어서 처리한다라는 큰 틀은 비슷한데
저는 좀 수준이 낮아도 싼 모델들을 고의적으로 사용하지 않으려고 했는데
그냥 규칙에 따라서 똑같은 일을 반복하는 단순 반복 - 분업은 싼 AI에게 맡겨도 좋은 것 같다는 생각이 들었습니다.
Forwarded from BHI
이전에 트위터를 Agent가 활용하는 것에 대해서 이야기를 했었는데
아마 이해를 못했거나, 의도를 모르거나 하시는 분들도 있을 것 같다고 생각함.
제가 하려는 것이 무엇인지에 대해서 간략하게 설명
1. 기존의 체계는 '내가 트위터나 정보 창구를 통해서 정보를 획득해서 내가 기억해야하고, 적절하게 내가 적용하는 구조'
2. 하지만, AI Agent라는 것이 상용화되며 점점 흐름이 바뀜.
'내가 정보를 인터넷에서 보고 그 정보를 AI에게 제공하고, AI에게 내가 활용하라고 하면 AI는 그걸 활용함.'
3. 근본적인 의문 - 왜 우리는 사람단을 더 줄이지 않는가?, 사람에게 의존하지 않는 구조를 만들지 않는가?
> 왜 사람이 찾고, AI에게 제공하고, 쓰라고 명령해야하는 단계가 아직도 존속해야하는가?
4. 근본적 해결 : AI가 찾고, AI가 저장하고, AI가 알아서 쓰는 구조를 달성해야함.
5. 해결안 : AI에게 트위터를 실제 사람이 브라우징하는 듯이 브라우징을 매일같이 하도록 함 + Twitter API 대체용 Twikit이라는 도구를 제공. (정해진 개수 이상의 트윗(광고, 중복 제외)을 읽고, 저장할 것/가치 있는 유용한 것/활용해서 사용했을 때 가치있는 것 - 을 저장하고 이를 장기적으로 활용하도록 해야함.)
6. 사람이 정보를 찾고, 변화와 진보를 팔로업하는 것을 AI에게 위임하는 것임.
7. AI가 찾고, AI가 저장하고, AI가 활용하는 체계 - 자동으로 팔로업이 되는 구조를 만들어야한다는 것임.
8. 이제 사람은 변화를 따라가려고 노력하지 않아도 - AI가 알아서 시대의 흐름과 변화 - 혁신을 활용하는 시대가 될 수 있다는 것임.
9. 결과 : 사람은 니즈만 넣는다면, AI가 가진 맥가이버칼 같은 도구(AI가 수집해둔 활용할 수 있는 정보 자산, 도구들)를 활용해서 더 좋은 결과물을 만드는 것임.
10. 결과 2 : 이렇게 쌓인 자산들을 AI가 스스로 활용하여 인간의 지시없이도 엄청난 결과물을 만들어내는 것.
11. 하지만, 이러한 구조를 달성하기 위해서는 해결해야하는 문제가 있음.
그 문제는
그저 저장만 하고 쓰지 못하는 정보가 되는 것.
정보가 있어도 AI가 그것을 활용하지 않는 것.
그저 많은 정보로 침체되는 것.
이러한 것들이 있음. 이러한 문제를 어떻게 해결해야하는 지에 대한 실무적 고민과 해결법들이 고안되어야지만 확실한 혁신이 발생할 것으로 생각함.
아마 이해를 못했거나, 의도를 모르거나 하시는 분들도 있을 것 같다고 생각함.
제가 하려는 것이 무엇인지에 대해서 간략하게 설명
1. 기존의 체계는 '내가 트위터나 정보 창구를 통해서 정보를 획득해서 내가 기억해야하고, 적절하게 내가 적용하는 구조'
2. 하지만, AI Agent라는 것이 상용화되며 점점 흐름이 바뀜.
'내가 정보를 인터넷에서 보고 그 정보를 AI에게 제공하고, AI에게 내가 활용하라고 하면 AI는 그걸 활용함.'
3. 근본적인 의문 - 왜 우리는 사람단을 더 줄이지 않는가?, 사람에게 의존하지 않는 구조를 만들지 않는가?
> 왜 사람이 찾고, AI에게 제공하고, 쓰라고 명령해야하는 단계가 아직도 존속해야하는가?
4. 근본적 해결 : AI가 찾고, AI가 저장하고, AI가 알아서 쓰는 구조를 달성해야함.
5. 해결안 : AI에게 트위터를 실제 사람이 브라우징하는 듯이 브라우징을 매일같이 하도록 함 + Twitter API 대체용 Twikit이라는 도구를 제공. (정해진 개수 이상의 트윗(광고, 중복 제외)을 읽고, 저장할 것/가치 있는 유용한 것/활용해서 사용했을 때 가치있는 것 - 을 저장하고 이를 장기적으로 활용하도록 해야함.)
6. 사람이 정보를 찾고, 변화와 진보를 팔로업하는 것을 AI에게 위임하는 것임.
7. AI가 찾고, AI가 저장하고, AI가 활용하는 체계 - 자동으로 팔로업이 되는 구조를 만들어야한다는 것임.
8. 이제 사람은 변화를 따라가려고 노력하지 않아도 - AI가 알아서 시대의 흐름과 변화 - 혁신을 활용하는 시대가 될 수 있다는 것임.
9. 결과 : 사람은 니즈만 넣는다면, AI가 가진 맥가이버칼 같은 도구(AI가 수집해둔 활용할 수 있는 정보 자산, 도구들)를 활용해서 더 좋은 결과물을 만드는 것임.
10. 결과 2 : 이렇게 쌓인 자산들을 AI가 스스로 활용하여 인간의 지시없이도 엄청난 결과물을 만들어내는 것.
11. 하지만, 이러한 구조를 달성하기 위해서는 해결해야하는 문제가 있음.
그 문제는
그저 저장만 하고 쓰지 못하는 정보가 되는 것.
정보가 있어도 AI가 그것을 활용하지 않는 것.
그저 많은 정보로 침체되는 것.
이러한 것들이 있음. 이러한 문제를 어떻게 해결해야하는 지에 대한 실무적 고민과 해결법들이 고안되어야지만 확실한 혁신이 발생할 것으로 생각함.
Forwarded from BHI
또 추가로 말하자면, 그저 트위터에 있는 글만 보고 그걸 저장하고 쓴다거나 하는 구조로는 안 된다고 생각함.
그 글을 보고 관련된 글들을 찾아야하고 (이 과정에서 Twikit 같은 도구가 필요)
또, 외부에서 관련 내용을 리서치 해야하고, 실제 사실인지 - Larph나 과장이 아닌지 여부도 검증해야함. 유의미한지도 판단해야함. 어디에 쓸 지도 생각해두고 이렇게 생각해둔 방법 외에도 AI가 적용해서 활용할 수 있어야함.
또한, A에 대한 정보를 이미 저장해두었다면 - A에 대한 정보가 추가되어서 A+가 되었다면 그 정보를 어떻게 관리할지도 또 생각해봐야하는 부분임.
또한, 아주 AI의 핵심적인 부분인데
1. AI가 문제 - 실제 문제의 원인을 1차적인 사실과 증거 기반으로 탐구/실사 > 그 문제의 원인을 해결하는 방법을 고안/우회안을 고안
2. AI가 1차적 사실과 원리적 정보를 알고, 이를 이용하여 파생적 방법을 구축하고 시행.
이 2가지가 정말 핵심적이라고 생각함.
첫번째는 자주 설명했으니 패스하고, 2번째는 사실 이런 것임.
원리나, 방법, 사실만 안다면 - 그것을 활용해서 실제 도구나 다른 사람들이 구축해둔 것들을 그대로 구현할 수 있는 것임.
이렇게 되면, 남들에게 종속되거나 굳이 돈을 지불하거나, 위험을 사지 않아도 됨.
단순히 원리만 알아내거나 추론해내면 그걸 기반으로 구축해서 자기만의 것을 만들어서 쓰면 되기 때문임.
이게 엄청난 AI의 알파라고 생각함.
그 글을 보고 관련된 글들을 찾아야하고 (이 과정에서 Twikit 같은 도구가 필요)
또, 외부에서 관련 내용을 리서치 해야하고, 실제 사실인지 - Larph나 과장이 아닌지 여부도 검증해야함. 유의미한지도 판단해야함. 어디에 쓸 지도 생각해두고 이렇게 생각해둔 방법 외에도 AI가 적용해서 활용할 수 있어야함.
또한, A에 대한 정보를 이미 저장해두었다면 - A에 대한 정보가 추가되어서 A+가 되었다면 그 정보를 어떻게 관리할지도 또 생각해봐야하는 부분임.
또한, 아주 AI의 핵심적인 부분인데
1. AI가 문제 - 실제 문제의 원인을 1차적인 사실과 증거 기반으로 탐구/실사 > 그 문제의 원인을 해결하는 방법을 고안/우회안을 고안
2. AI가 1차적 사실과 원리적 정보를 알고, 이를 이용하여 파생적 방법을 구축하고 시행.
이 2가지가 정말 핵심적이라고 생각함.
첫번째는 자주 설명했으니 패스하고, 2번째는 사실 이런 것임.
원리나, 방법, 사실만 안다면 - 그것을 활용해서 실제 도구나 다른 사람들이 구축해둔 것들을 그대로 구현할 수 있는 것임.
이렇게 되면, 남들에게 종속되거나 굳이 돈을 지불하거나, 위험을 사지 않아도 됨.
단순히 원리만 알아내거나 추론해내면 그걸 기반으로 구축해서 자기만의 것을 만들어서 쓰면 되기 때문임.
이게 엄청난 AI의 알파라고 생각함.
Forwarded from BHI
AI Agent 활용 방법
많은 사람들이 단순하게 AI Agent에게
~해줘.
~가 문제네. 해결해.
이렇게 사용하는데, 이 방식은 틀렸을 수 있음.
개인적으로는 아래와 같은 방식으로 활용하고 있음.
개인적으로 중요하다고 생각하는 부분인데 '선택해야 할 사항'과 '훼손되면 안 되는 것'으로 고정하는 것이 꽤 중요하다고 생각함.
예를 들자면, 사용자 입장에서 돈이 드는 것을 최대한 줄이고 싶다거나, 혹은 방법들 중에 적용하면 안 되는 방법, 비효율적인 방법들이 있을 수 있음.
그런 것들은 ~한 방식으로 하라고 이야기를 해줘야함.
그걸 위해서는 검토나 최대한 선택지를 분해하는 과정이 필요하다고 생각함.
예를 들자면, 이미 LLM 구독제가 있는 상황에서 API 추가 과금을 해야하는 계획안을 구성할 수도 있고
돈이 안 드는 경로가 있음에도 불구하고 사용자는 과금을 꺼리는 성향인데도 불구하고 과금을 하는 방향을 선택할 수도 있음.
따라서, 비효율적 지점(비용 및 작동 효율성) 및 시스템 정합성에 맞지 않는 지점들을 찾아내는 것이 필요하다고 생각함.
사용자가 니즈와 상황을 구체화하고 방향성을 설정하는 능력이 기초자산이 되어가는 것 같음.
많은 사람들이 단순하게 AI Agent에게
~해줘.
~가 문제네. 해결해.
이렇게 사용하는데, 이 방식은 틀렸을 수 있음.
개인적으로는 아래와 같은 방식으로 활용하고 있음.
1. 문제 (ChatGPT Pro - Web)
1-1. 문제의 원인 가능성 파악 및 리스트업 (ChatGPT Pro - Web)
2. 문제 리스트에서 실제 문제가 무엇인지 실사 (AI Agent)
3. 확인된 문제를 받아서 제공 후 해결법 얻기 (ChatGPT Pro - Web)
4. 해결법을 AI Agent에게 제공 (AI Agent)
*이 과정에서 내가 바라지 않는 방법으로 해결할 수 있으므로 '선택해야 할 사항'을 구별하는 것이 필요
1. 요구 (ChatGPT Pro - Web)
2. 요구 사항 고정(훼손 불가 사항 고정) + 선택지 확인 및 사용자의 선택 (ChatGPT Pro - Web)
3. 구현을 위한 시스템 체크 사항 얻기 (ChatGPT Pro - Web)
4. 시스템 실사 (AI Agent)
5. 실사한 내용 제공 (ChatGPT Pro - Web)
6. 내용 기반 구현안 획득 (ChatGPT Pro - Web)
7. 구현안 AI Agent에게 제공 및 구현 (AI Agent)
개인적으로 중요하다고 생각하는 부분인데 '선택해야 할 사항'과 '훼손되면 안 되는 것'으로 고정하는 것이 꽤 중요하다고 생각함.
예를 들자면, 사용자 입장에서 돈이 드는 것을 최대한 줄이고 싶다거나, 혹은 방법들 중에 적용하면 안 되는 방법, 비효율적인 방법들이 있을 수 있음.
그런 것들은 ~한 방식으로 하라고 이야기를 해줘야함.
그걸 위해서는 검토나 최대한 선택지를 분해하는 과정이 필요하다고 생각함.
예를 들자면, 이미 LLM 구독제가 있는 상황에서 API 추가 과금을 해야하는 계획안을 구성할 수도 있고
돈이 안 드는 경로가 있음에도 불구하고 사용자는 과금을 꺼리는 성향인데도 불구하고 과금을 하는 방향을 선택할 수도 있음.
따라서, 비효율적 지점(비용 및 작동 효율성) 및 시스템 정합성에 맞지 않는 지점들을 찾아내는 것이 필요하다고 생각함.
사용자가 니즈와 상황을 구체화하고 방향성을 설정하는 능력이 기초자산이 되어가는 것 같음.
Forwarded from BHI
조금의 예시를 들자면,
Agent가 문서를 받지 못하는 오류가 있음 (문제발생)
해당 문제가 발생하는 원인으로 추정되는 것들을 예측 및 리스트업 (문제의 원인을 예측)
문제의 원인이 실제 맞는지 여부를 에이전트가 파악 (문제의 원인들 중 어떠한 것이 실제 원인인지 파악)
파악한 문제를 해결하기 위한 방법을 고안 (해결법 고안)
해결법에 따라서 시행하여 해결 (해결)
이런 과정인데 이 과정 속에서 다양한 문제가 발생함.
그냥 에이전트에게 문제를 던져주고 해결하라고 하는 경우에 발생하는 문제나
니즈와 조건을 제대로 걸지 않으면 사용자의 의도와는 다르게 해결하거나 비가시적 조건을 충족하지 않는 문제가 발생할 수 있음.
그냥 단순하게 코드만 고치면 되는 일을 Google Drive를 연결해서 그쪽으로 업로드하고 공유하는 URL을 생성해서 에이전트에게 제공하는 방식을 사용하자. 라고 그냥 에이전트가 자의적으로 판단할 수 있음. 혹은 이 방법이 최선이거나 레거시한 방법이기에 이 방법으로 하는 것이 안정적이다. 라고 판단하여 이 방법을 추천하거나, 이 방법으로 진행할 수도 있음. (물론 이 방법은 레거시한 방법도 아니고, 안정적인 방법도 아님. - 예시임)
그 과정에서 발생하는 추가적인 문제가 있을 수 있음. 예를 들면 - Google Drive의 용량이 부족해지거나, 또 Google Drive를 위해서 과금이 필요하거나, 이 과정에서 더 추가적인 문제가 발생하거나, 그냥 작동의 과정에서 비효율적이거나 등등....
즉, 이 과정에서 '나는 추가 과금은 피하고 싶어. [조건]'을 추가해야 정확한 방향을 설정하고 그 방향으로 계획을 짜고 구현한다는 것임...
그리고, 쉽게 AI가 하는 말을 믿으면 안 됨.
트위터 API를 이용해서 트위터에 있는 정보를 긁어와야합니다. 이 과정에서 비용은 필연적입니다.
이 말에 설득당하면 안 됨.
트위터의 정보를 긁어와야하는데, 비용이 드는 것은 절대 안 돼. 와 같은 방법으로 조건과 방향을 설정하면
비용이 들지 않는 트위터의 정보를 긁어오는 방식을 찾아냄.
그 방식들의 문제를 체크하라고 하고 - 가장 문제가 없는 방식을 찾다보면 Twikit 같은 것들을 찾게되고, 그것을 활용하면 쉽게 해결된다고 생각함.
하지만, 대부분의 사람들은 조건과 방향을 제대로 설정하지 않고
트위터의 정보를 긁어올 수 있게 해줘.
와 같은 프롬프트를 통해서,
트위터 API를 이용하십시오.
라는 결론에 도달하고, 그 방법으로 비효율이 발생하는 상황에 있다고 생각함.
즉, 결론적으로 해결책은 비가시적 조건을 가시적으로 바꾸고, 정확한 필요와 요구 사항을 명시하여 정확한 방향을 설정하는 것이라고 생각함. AI는 보수적이고 통계적, 안정적이고 대다수의 사람들이 하는 행동을 모방하려하는 경향이 있기에 개인화(필요, 요구사항 명시, 사용자 상황 컨텍스트 삽입)이 되지 않는다면, 사용자의 효용의 체감은 떨어질 수 밖에 없다고 생각함.
Agent가 문서를 받지 못하는 오류가 있음 (문제발생)
해당 문제가 발생하는 원인으로 추정되는 것들을 예측 및 리스트업 (문제의 원인을 예측)
문제의 원인이 실제 맞는지 여부를 에이전트가 파악 (문제의 원인들 중 어떠한 것이 실제 원인인지 파악)
파악한 문제를 해결하기 위한 방법을 고안 (해결법 고안)
해결법에 따라서 시행하여 해결 (해결)
이런 과정인데 이 과정 속에서 다양한 문제가 발생함.
그냥 에이전트에게 문제를 던져주고 해결하라고 하는 경우에 발생하는 문제나
니즈와 조건을 제대로 걸지 않으면 사용자의 의도와는 다르게 해결하거나 비가시적 조건을 충족하지 않는 문제가 발생할 수 있음.
그냥 단순하게 코드만 고치면 되는 일을 Google Drive를 연결해서 그쪽으로 업로드하고 공유하는 URL을 생성해서 에이전트에게 제공하는 방식을 사용하자. 라고 그냥 에이전트가 자의적으로 판단할 수 있음. 혹은 이 방법이 최선이거나 레거시한 방법이기에 이 방법으로 하는 것이 안정적이다. 라고 판단하여 이 방법을 추천하거나, 이 방법으로 진행할 수도 있음. (물론 이 방법은 레거시한 방법도 아니고, 안정적인 방법도 아님. - 예시임)
그 과정에서 발생하는 추가적인 문제가 있을 수 있음. 예를 들면 - Google Drive의 용량이 부족해지거나, 또 Google Drive를 위해서 과금이 필요하거나, 이 과정에서 더 추가적인 문제가 발생하거나, 그냥 작동의 과정에서 비효율적이거나 등등....
즉, 이 과정에서 '나는 추가 과금은 피하고 싶어. [조건]'을 추가해야 정확한 방향을 설정하고 그 방향으로 계획을 짜고 구현한다는 것임...
그리고, 쉽게 AI가 하는 말을 믿으면 안 됨.
트위터 API를 이용해서 트위터에 있는 정보를 긁어와야합니다. 이 과정에서 비용은 필연적입니다.
이 말에 설득당하면 안 됨.
트위터의 정보를 긁어와야하는데, 비용이 드는 것은 절대 안 돼. 와 같은 방법으로 조건과 방향을 설정하면
비용이 들지 않는 트위터의 정보를 긁어오는 방식을 찾아냄.
그 방식들의 문제를 체크하라고 하고 - 가장 문제가 없는 방식을 찾다보면 Twikit 같은 것들을 찾게되고, 그것을 활용하면 쉽게 해결된다고 생각함.
하지만, 대부분의 사람들은 조건과 방향을 제대로 설정하지 않고
트위터의 정보를 긁어올 수 있게 해줘.
와 같은 프롬프트를 통해서,
트위터 API를 이용하십시오.
라는 결론에 도달하고, 그 방법으로 비효율이 발생하는 상황에 있다고 생각함.
즉, 결론적으로 해결책은 비가시적 조건을 가시적으로 바꾸고, 정확한 필요와 요구 사항을 명시하여 정확한 방향을 설정하는 것이라고 생각함. AI는 보수적이고 통계적, 안정적이고 대다수의 사람들이 하는 행동을 모방하려하는 경향이 있기에 개인화(필요, 요구사항 명시, 사용자 상황 컨텍스트 삽입)이 되지 않는다면, 사용자의 효용의 체감은 떨어질 수 밖에 없다고 생각함.
Forwarded from 먼슬리 오리(Monthly Ori)
이 계정은 그러니까
만든지 1년만에 85700개의 HYPE 관련 포스팅을 했다고?
85700/365 = 234.xx
리트윗이나 댓글 합쳐도, 사람이 매일 200개 넘게 올리는게 말이 되는건가
뭔가에 미치려면 저렇게 해야하는구나
반성합니다
https://x.com/HYPEconomist
만든지 1년만에 85700개의 HYPE 관련 포스팅을 했다고?
85700/365 = 234.xx
리트윗이나 댓글 합쳐도, 사람이 매일 200개 넘게 올리는게 말이 되는건가
뭔가에 미치려면 저렇게 해야하는구나
반성합니다
https://x.com/HYPEconomist
Forwarded from 엄브렐라리서치 Anakin의 투자노트
토큰과 메모리
1.
처음 ChatGPT가 나왔을 때, 모두가 놀랐지만 동시에 할루시네이션에 대한 비판도 거셌음. 대화는 되었지만 정확도가 낮았기 때문. 그 이유는 그 당시 모델이 '사전학습(Pre-training)' 중심이었기 때문
사전학습은, 인터넷에 있는 모든 데이터를 입력받아 기본 지식을 습득하지만, '뇌'가 빈 상태. 그렇기 때문에 깊은 생각이 어렵고 정보의 적시성도 떨어지는 상태
2.
사전학습 다음으로 함께 진행된 것은 '사후학습(Post-Training)'. 사후학습은 모델이 알고 있는 지식을 쓸모 있게 만들어 줌. 모델에게 생각하는 방법을 가르치는 단계
사전학습만 수행하게 되면, '삼성전자,SK하이닉스에 대해 알려줘'라고 했을 때 인터넷 상에서 존재하는 꽤나 정확한 답변을 제공해줄 수 있음
그러나, '토큰 수요가 폭증하는 사이클에서 메모리 압축기술(토큰당 메모리 수요)이 메모리 전체 수요 성장 기울기를 감소시킬 수 있어?'라는 질문에는 답변하지 못함. 스스로 생각하기 어렵기 때문. 그러나 사후학습은 이를 가능케 할 수 있음. 모델 스스로 생각할 수 있게 만들어주기 때문
3.
그 다음 등장한게 '테스트 타임 스케일링(Test-time Scaling)'. 여기서 딥시크가 등장하게 되었음. 스스로 생각하는 모든 과정을 공개하면서 모델이 '곧바로' 답을 뱉지 않고, 문제를 시간을 갖고 스스로 풀어보고 생각하는 과정을 거치게 됨
딥시크는 모델의 생각 시간을 늘려서 답변의 정확도를 높이는 방식으로 각광받게 되었음. 당시 딥시크는 GPU 요구량을 크게 줄였으나 성능이 개선되었다고 발표했으나(실제로는 더 사용), 결과적으로는 지금 딥시크의 입지는 그 때보다는 낮은 수준
마치 지금 메모리 압축을 얘기하는 상황과도 유사. 결과적으로 증가하는 토큰을 처리하기 위한 효율성 개선이 수요 감소로 이어지지 않는다는 것. 결국 모델의 성능 개선은 (1) 압도적인 AI 인프라와 (2) 함께 진행되는 효율성 개선(이건 SW, HW 모두)에서 이뤄진다는 것
4.
딥시크 방식은 또한 '속도'의 문제가 존재했음. 한정된 HW에서 계속되는 '검산'과 '숙고'는 토큰을 더 많이 발생시켰고, 이를 처리하기 위한 속도는 당연히 늦어졌음
이를 해결하기 위해 등장한 개념이 'MoE(Mixture of Experts)'였음. 모델의 뉴런 파라미터 집합을 여러 전문가 그룹으로 나누는 것. 모델 전체의 크기는 엄청 커질 수밖에 없지만, 거기서 추론에 사용하는 유효 파라미터를 줄이는 것
모델이 수조 파라미터 규모가 되더라도, 유효 파라미터는 수백억개 수준으로 축소시킬 수 있고, 이 덕분에 훨씬 레이턴시를 줄일 수 있게 되었음. 선택적으로 계산하기 때문에 더 높은 지능을 제공
더 효율적으로 코드를 생성하고, 출력을 만들고, 똑똑해지는 방식. 결국 이것도 '효율성 개선' 아닐까? => 하지만 HW의 수요는 전혀 줄어들지 않았다는 것
5.
이는 LPU SRAM, CPO나 1.6T같은 통신기술, NV Link 등 모두 마찬가지. 어찌보면 HW단에서 효율화에 더 노력하고 있음. 더 많은 토큰을 생성해야되기 때문
구글 같은 CSP만 노력하는게 아니라, 사실 HW업체들이 더 많이 노력하고 있다는 것. LPU는 결국 토큰을 만들어내는 워크로드 측면에서 저지연을 담당하는 영역에서 급격한 효율을 발생시킴. 여전히 디코드 영역의 메모리 바운드는 깨지지 않음. 즉, 워크로드의 차이
6.
엔비디아의 Dynamo 기술은 HW 업체가 오히려 더 노력하고 있는 것을 보여주고 있음. Dynamo 기술은 첫 입력 토큰을 생성하는 프리필(prefill) 단계와 출력 토큰을 계속 만드는 디코드(decode) 단계를 구분하여 AI DC 전체에서 KV 캐시를 효율적으로 관리하기 위해 엔비디아가 만든 기술
첫 입력 토큰을 생성하기 위해 사용자가 질문한 내용을 처리하는 문맥 처리를 담당하는 프리필 단계의 GPU와, 이를 받아서 토큰을 계속 생성해내는 GPU를 구분하는 것. 결국 이것도 '토큰 생성을 위한 효율성 증대'의 일환. 엔비디아에 따르면, 이 Dynamo 기술을 통해 GPU의 처리량이 7배가 증가했다고 발표
7.
다음 시대는 '멀티에이젼트', '에이젼트 스케일링'. AI 에이젼트들끼리 대화하면서 더 최적의 답변을 찾아내는 것. 앤트로픽은 멀티에이전트 시스템에서 토큰 생성 수요가 15배 증가한다고 언급(특정 영역에서)
AI들끼리 대화가 너무 빠르기 때문. 1500토큰/초 수준으로 출력하는 시대가 도래하게 되면, 하루~일주일 걸리는 질의를 1~2시간만에 처리할 수 있게 되는 것. 더 거대한 모델을 돌려야 하고, 에이젼트간의 상호작용도 매우 빨라야 하는 시대로 도래
똑똑한 한 명의 인간은 AGI가 될 수 없음. 아인슈타인은 가장 똑똑한 인류라고 불리지만, 아인슈타인이 엘리베이터를 고치는 방법을 알거나 주식에 일가견이 있거나 국가를 운영하는 법을 알 수가 없음. 결국 AGI는 무수히 똑똑한 AI 에이젼트들이 융합할 때 도달할 수 있는 영역
8.
메모리 측면에서, 추론 디코드 영역은 '메모리 바운드'라고 부름. 메모리에 묶여있다는 것. GPU 연산량이 아무리 좋아도 메모리 대역폭과 배치(batch, 동시에 처리할 수 있는 작업)가 증가하지 못하면 오히려 GPU가 노는 현상이 발생될 정도. 완전히 메모리 의존 영역
디코드는 매 스텝마다 토큰을 생성하고 다음 토큰을 생성하는 과정을 거치는데, 이 때 다음 토큰을 생성하기 위해 KV 캐시를 활용. KV 캐시는 이전 토큰들에 대한 Key/value 벡터 상태, 즉 이전 토큰들의 상태를 저장해놓는 저장소 역할. 그렇게 되면 다음 토큰을 만들 때 문맥을 처음부터 다시 읽는게 아니라, KV캐시만 읽어도 다음 토큰을 더 빠르게 생성할 수 있게 됨
9.
결국 토큰 - 추론 - 디코드 - KV캐시라는 구조가 단단하게 유지되면서, LLM들이 사전학습->사후학습->테스트 타임 스케일링->MoE->에이젼트 스케일링으로 변화되면서 더 많은 토큰을 생성해낼수록, 메모리의 요구량은 계속 기하급수적으로 증가하고 있다는 것
이 과정에서 HBM에만 한정된 KV캐시 의존도를 분산하기 위해 일반 서버용 DRAM이나, 콜드 데이터 저장을 위한 HDD, SSD, 나아가 HBF까지 필요해지면서 메모리 하이어라키 계층 구조가 전방위적으로 수혜를 받는 것. 단순히 HBM에서 만들어지는 공급 제약이 미치는 영향 뿐만 아니라, AI 수요가 전체적인 메모리 수요에 도움을 주고 있음
10.
한편 HBM에서는 HBM4부터 로직다이의 중요성이 높아지고 있음. 이는 IO 복잡도가 급격히 증가하고, GPU/CPU 같은 연산처리에서 담당하던 기능을 로직 다이 안으로 가져올 수 있게 되었기 때문. 이에 따라, 4e부터는 커스텀 HBM 방식으로, 코어다이는 표준화가 되더라도 로직다이는 업체별로 맞춤형 설계가 될 수 있음
현재 HBM4에선 코어다이에서 삼성전자가 1c, SK하이닉스가 1b 공정을 적용 중인 것으로 알려짐. 로직다이에서는 삼성전자가 삼성파운드리 4nm 공정, SK하이닉스가 TSMC 12나노대 공정을 적용 중인 것으로 알려짐 (언론보도)
그런데 HBM4e부터는 코어다이에서 두 기업 모두 1c 공정, 로직다이에서는 SK하이닉스가 TSMC 3nm 공정을 검토 중이라는 언론보도가 있었음. HBM4에서 12nm를 적용했다면, 4e에선 3nm로 급격하게 성능을 개선시키는 것. 이는 HBM 공정 경쟁이 4e부터는 양상이 또다시 변화될 수 있음을 암시
+
큰 틀에서, 조금 과장하자면 AI와 토큰은 산업혁명 시대 전기의 탄생과 유사하다고 생각. 전기(토큰)을 가지고 할 수 있는게 너무 많아질 수 있는 시대에서, 전기가 발명되기 이전의 시대로 돌아갈 수 없음
전기를 만들기 위해 당연히 공장이 필요하고, 전기를 더 효율적으로 생성해낼 수 있는 기술(효율화)도 당연히 필요할 것
그러나 그게 전기의 수요를 감소시키거나, 전기를 만들어내기 위한 인프라의 감소로 이어지진 않았음. 왜냐하면 전기의 수요 증가량(토큰의 증가량)이 훨씬 더 크기 때문
1.
처음 ChatGPT가 나왔을 때, 모두가 놀랐지만 동시에 할루시네이션에 대한 비판도 거셌음. 대화는 되었지만 정확도가 낮았기 때문. 그 이유는 그 당시 모델이 '사전학습(Pre-training)' 중심이었기 때문
사전학습은, 인터넷에 있는 모든 데이터를 입력받아 기본 지식을 습득하지만, '뇌'가 빈 상태. 그렇기 때문에 깊은 생각이 어렵고 정보의 적시성도 떨어지는 상태
2.
사전학습 다음으로 함께 진행된 것은 '사후학습(Post-Training)'. 사후학습은 모델이 알고 있는 지식을 쓸모 있게 만들어 줌. 모델에게 생각하는 방법을 가르치는 단계
사전학습만 수행하게 되면, '삼성전자,SK하이닉스에 대해 알려줘'라고 했을 때 인터넷 상에서 존재하는 꽤나 정확한 답변을 제공해줄 수 있음
그러나, '토큰 수요가 폭증하는 사이클에서 메모리 압축기술(토큰당 메모리 수요)이 메모리 전체 수요 성장 기울기를 감소시킬 수 있어?'라는 질문에는 답변하지 못함. 스스로 생각하기 어렵기 때문. 그러나 사후학습은 이를 가능케 할 수 있음. 모델 스스로 생각할 수 있게 만들어주기 때문
3.
그 다음 등장한게 '테스트 타임 스케일링(Test-time Scaling)'. 여기서 딥시크가 등장하게 되었음. 스스로 생각하는 모든 과정을 공개하면서 모델이 '곧바로' 답을 뱉지 않고, 문제를 시간을 갖고 스스로 풀어보고 생각하는 과정을 거치게 됨
딥시크는 모델의 생각 시간을 늘려서 답변의 정확도를 높이는 방식으로 각광받게 되었음. 당시 딥시크는 GPU 요구량을 크게 줄였으나 성능이 개선되었다고 발표했으나(실제로는 더 사용), 결과적으로는 지금 딥시크의 입지는 그 때보다는 낮은 수준
마치 지금 메모리 압축을 얘기하는 상황과도 유사. 결과적으로 증가하는 토큰을 처리하기 위한 효율성 개선이 수요 감소로 이어지지 않는다는 것. 결국 모델의 성능 개선은 (1) 압도적인 AI 인프라와 (2) 함께 진행되는 효율성 개선(이건 SW, HW 모두)에서 이뤄진다는 것
4.
딥시크 방식은 또한 '속도'의 문제가 존재했음. 한정된 HW에서 계속되는 '검산'과 '숙고'는 토큰을 더 많이 발생시켰고, 이를 처리하기 위한 속도는 당연히 늦어졌음
이를 해결하기 위해 등장한 개념이 'MoE(Mixture of Experts)'였음. 모델의 뉴런 파라미터 집합을 여러 전문가 그룹으로 나누는 것. 모델 전체의 크기는 엄청 커질 수밖에 없지만, 거기서 추론에 사용하는 유효 파라미터를 줄이는 것
모델이 수조 파라미터 규모가 되더라도, 유효 파라미터는 수백억개 수준으로 축소시킬 수 있고, 이 덕분에 훨씬 레이턴시를 줄일 수 있게 되었음. 선택적으로 계산하기 때문에 더 높은 지능을 제공
더 효율적으로 코드를 생성하고, 출력을 만들고, 똑똑해지는 방식. 결국 이것도 '효율성 개선' 아닐까? => 하지만 HW의 수요는 전혀 줄어들지 않았다는 것
5.
이는 LPU SRAM, CPO나 1.6T같은 통신기술, NV Link 등 모두 마찬가지. 어찌보면 HW단에서 효율화에 더 노력하고 있음. 더 많은 토큰을 생성해야되기 때문
구글 같은 CSP만 노력하는게 아니라, 사실 HW업체들이 더 많이 노력하고 있다는 것. LPU는 결국 토큰을 만들어내는 워크로드 측면에서 저지연을 담당하는 영역에서 급격한 효율을 발생시킴. 여전히 디코드 영역의 메모리 바운드는 깨지지 않음. 즉, 워크로드의 차이
6.
엔비디아의 Dynamo 기술은 HW 업체가 오히려 더 노력하고 있는 것을 보여주고 있음. Dynamo 기술은 첫 입력 토큰을 생성하는 프리필(prefill) 단계와 출력 토큰을 계속 만드는 디코드(decode) 단계를 구분하여 AI DC 전체에서 KV 캐시를 효율적으로 관리하기 위해 엔비디아가 만든 기술
첫 입력 토큰을 생성하기 위해 사용자가 질문한 내용을 처리하는 문맥 처리를 담당하는 프리필 단계의 GPU와, 이를 받아서 토큰을 계속 생성해내는 GPU를 구분하는 것. 결국 이것도 '토큰 생성을 위한 효율성 증대'의 일환. 엔비디아에 따르면, 이 Dynamo 기술을 통해 GPU의 처리량이 7배가 증가했다고 발표
7.
다음 시대는 '멀티에이젼트', '에이젼트 스케일링'. AI 에이젼트들끼리 대화하면서 더 최적의 답변을 찾아내는 것. 앤트로픽은 멀티에이전트 시스템에서 토큰 생성 수요가 15배 증가한다고 언급(특정 영역에서)
AI들끼리 대화가 너무 빠르기 때문. 1500토큰/초 수준으로 출력하는 시대가 도래하게 되면, 하루~일주일 걸리는 질의를 1~2시간만에 처리할 수 있게 되는 것. 더 거대한 모델을 돌려야 하고, 에이젼트간의 상호작용도 매우 빨라야 하는 시대로 도래
똑똑한 한 명의 인간은 AGI가 될 수 없음. 아인슈타인은 가장 똑똑한 인류라고 불리지만, 아인슈타인이 엘리베이터를 고치는 방법을 알거나 주식에 일가견이 있거나 국가를 운영하는 법을 알 수가 없음. 결국 AGI는 무수히 똑똑한 AI 에이젼트들이 융합할 때 도달할 수 있는 영역
8.
메모리 측면에서, 추론 디코드 영역은 '메모리 바운드'라고 부름. 메모리에 묶여있다는 것. GPU 연산량이 아무리 좋아도 메모리 대역폭과 배치(batch, 동시에 처리할 수 있는 작업)가 증가하지 못하면 오히려 GPU가 노는 현상이 발생될 정도. 완전히 메모리 의존 영역
디코드는 매 스텝마다 토큰을 생성하고 다음 토큰을 생성하는 과정을 거치는데, 이 때 다음 토큰을 생성하기 위해 KV 캐시를 활용. KV 캐시는 이전 토큰들에 대한 Key/value 벡터 상태, 즉 이전 토큰들의 상태를 저장해놓는 저장소 역할. 그렇게 되면 다음 토큰을 만들 때 문맥을 처음부터 다시 읽는게 아니라, KV캐시만 읽어도 다음 토큰을 더 빠르게 생성할 수 있게 됨
9.
결국 토큰 - 추론 - 디코드 - KV캐시라는 구조가 단단하게 유지되면서, LLM들이 사전학습->사후학습->테스트 타임 스케일링->MoE->에이젼트 스케일링으로 변화되면서 더 많은 토큰을 생성해낼수록, 메모리의 요구량은 계속 기하급수적으로 증가하고 있다는 것
이 과정에서 HBM에만 한정된 KV캐시 의존도를 분산하기 위해 일반 서버용 DRAM이나, 콜드 데이터 저장을 위한 HDD, SSD, 나아가 HBF까지 필요해지면서 메모리 하이어라키 계층 구조가 전방위적으로 수혜를 받는 것. 단순히 HBM에서 만들어지는 공급 제약이 미치는 영향 뿐만 아니라, AI 수요가 전체적인 메모리 수요에 도움을 주고 있음
10.
한편 HBM에서는 HBM4부터 로직다이의 중요성이 높아지고 있음. 이는 IO 복잡도가 급격히 증가하고, GPU/CPU 같은 연산처리에서 담당하던 기능을 로직 다이 안으로 가져올 수 있게 되었기 때문. 이에 따라, 4e부터는 커스텀 HBM 방식으로, 코어다이는 표준화가 되더라도 로직다이는 업체별로 맞춤형 설계가 될 수 있음
현재 HBM4에선 코어다이에서 삼성전자가 1c, SK하이닉스가 1b 공정을 적용 중인 것으로 알려짐. 로직다이에서는 삼성전자가 삼성파운드리 4nm 공정, SK하이닉스가 TSMC 12나노대 공정을 적용 중인 것으로 알려짐 (언론보도)
그런데 HBM4e부터는 코어다이에서 두 기업 모두 1c 공정, 로직다이에서는 SK하이닉스가 TSMC 3nm 공정을 검토 중이라는 언론보도가 있었음. HBM4에서 12nm를 적용했다면, 4e에선 3nm로 급격하게 성능을 개선시키는 것. 이는 HBM 공정 경쟁이 4e부터는 양상이 또다시 변화될 수 있음을 암시
+
큰 틀에서, 조금 과장하자면 AI와 토큰은 산업혁명 시대 전기의 탄생과 유사하다고 생각. 전기(토큰)을 가지고 할 수 있는게 너무 많아질 수 있는 시대에서, 전기가 발명되기 이전의 시대로 돌아갈 수 없음
전기를 만들기 위해 당연히 공장이 필요하고, 전기를 더 효율적으로 생성해낼 수 있는 기술(효율화)도 당연히 필요할 것
그러나 그게 전기의 수요를 감소시키거나, 전기를 만들어내기 위한 인프라의 감소로 이어지진 않았음. 왜냐하면 전기의 수요 증가량(토큰의 증가량)이 훨씬 더 크기 때문
BHI
AI Agentic System 설계 아키텍쳐.docx
AI Agentic System에서 필요한 것들, 어떻게 구현할지, 어떤 문제가 있는지를 최대한 적어낸 문서입니다.
Forwarded from AI MASTERS
This media is not supported in your browser
VIEW IN TELEGRAM
Suno V5.5 업데이트 - 당신의 목소리로 생성하세요!
음악 생성AI 모델중 정말 원탑으로 달리고 있는 SUNO 가 이번에 버전 업데이트를 진행했습니다. 단순 음악적 다향성 보다 이젠 유저의 목소리와 취향을 담은 모델중 하나입니다.
다양한 음악적 지식이 없어도, 이제는 그 generic 한 목소리를 넘어서, 자신의 목소리를 녹음하고, 자신의 목소리로 음악을 생성할수 있습니다!
지금 Suno 에서 생성해보세요!
음악 생성AI 모델중 정말 원탑으로 달리고 있는 SUNO 가 이번에 버전 업데이트를 진행했습니다. 단순 음악적 다향성 보다 이젠 유저의 목소리와 취향을 담은 모델중 하나입니다.
다양한 음악적 지식이 없어도, 이제는 그 generic 한 목소리를 넘어서, 자신의 목소리를 녹음하고, 자신의 목소리로 음악을 생성할수 있습니다!
지금 Suno 에서 생성해보세요!
Forwarded from AI MASTERS
목소리는 총 2~3단계로 들어갑니다.
1. 자신의 목소리를 자연스럽게 녹음을 10초 이상 해야합니다.
2. 노래를 부르는것도 30초 이상 있어야 합니다.
3. 목소리 KYC 를 진행해야합니다.
그렇게 진행후, 자신의 모델이 나옵니당
참고사항
• 녹음을 한 장소 / 마이크 퀄리티 등등이 모델의 퀄리티를 결정합니다.
• 녹음하고 다시 진행 가능.
• 그냥 업로드도 되지만, KYC 부분은 필수입니다.
1. 자신의 목소리를 자연스럽게 녹음을 10초 이상 해야합니다.
2. 노래를 부르는것도 30초 이상 있어야 합니다.
3. 목소리 KYC 를 진행해야합니다.
그렇게 진행후, 자신의 모델이 나옵니당
참고사항
• 녹음을 한 장소 / 마이크 퀄리티 등등이 모델의 퀄리티를 결정합니다.
• 녹음하고 다시 진행 가능.
• 그냥 업로드도 되지만, KYC 부분은 필수입니다.