AI가 잘못된 정보를 한 번 답하는 것도 문제지만, 그 내용을 장기 지식으로 계속 재사용한다면 문제는 더 커짐.

다음 질문에서도 같은 오류가 반복될 수 있기 때문임.

DAPPOS는 Compound Memory의 durable knowledge를 core, verified Web3 facts and models​라고 설명합니다. 즉 오래 사용하는 지식에는 단순히 최근에 발견했다는 이유보다 검증된 핵심 정보라는 성격을 강조하고 있음.

여기서 중요한 단어가 verified임.

장기 기억은 여러 미래 작업에서 다시 쓰일 가능성이 있기 때문에 입력 단계의 품질이 더 중요해질 수 있음.

기술적으로 보면

기억의 수명이 길어질수록 잘못된 정보의 영향 범위도 커질 수 있기 때문임.

그래서 장기 Memory와 정보 검증은 따로 떼어 보기 어려운 문제임.