DAPPOS, Test Harness가 등장하는 이유 3/10
#DAPPOS #BubbleEngine #TestHarness #AIEvaluation #SOP #스토리텔러
AI workflow 하나가 그럴듯하게 만들어졌다고 바로 사용자에게 배포하면 문제가 생길 수 있음.
한두 번은 잘되는데 입력이 조금만 달라져도 실패하는 작업법일 수 있기 때문임.
Bubble Engine은 solution variant를 만든 뒤 test harness를 구축해 후보들을 시험하는 과정을 거친다고 공식 문서에서 설명합니다.
Test Harness를 쉽게 표현하면 AI 작업법을 반복해서 시험할 수 있도록 만든 자동 시험장에 가까움.
결과 하나를 보고
“잘됐네”
라고 판단하는 게 아니라 여러 사례를 집어넣고 결과를 비교할 수 있도록 만드는 것임.
AI Agent가 실사용 단계로 갈수록 생성 능력만큼 자동 평가 인프라가 중요해지는 이유임.
#DAPPOS #BubbleEngine #TestHarness #AIEvaluation #SOP #스토리텔러
❤11👍4🔥3
DAPPOS, Task Example과 Quality Criteria 5/10
#DAPPOS #BubbleEngine #QualityCriteria #AIEvaluation #xBubble #스토리텔러
AI 결과를 사람이 보면 쉽게 이런 말을 하게 됨.
“이쪽이 조금 더 좋아 보이는데”
하지만 자동으로 수많은 solution을 비교하려면 이런 감각적인 평가만으로는 부족함.
DAPPOS는 Bubble Engine이 후보 solution의 결과를 task examples와 quality criteria를 기준으로 평가한다고 설명합니다.
여기서 중요한 건 먼저
“이 작업에서 좋은 결과란 무엇인가”
라는 기준을 세우는 것임.
그래야 서로 다른 모델과 도구 조합을 같은 조건에서 비교할 수 있음.
즉 Bubble Engine의 역할에는 단순 생성뿐 아니라
생성 → 테스트 → 평가
가 함께 들어감.
AI Agent 시스템이 안정적으로 작동하려면 ‘잘 만드는 기술’과 함께 잘했는지 판정하는 기술도 필요하다는 의미임.
#DAPPOS #BubbleEngine #QualityCriteria #AIEvaluation #xBubble #스토리텔러
❤12👍4🔥3
DAPPOS, Confidence Gate를 통과할 때까지 다시 조사하는 구조 3/10
🔗 스토리텔러 공지 l 웹사이트 l 트위터 l 링크트리 l 스토리텔러 대시보드
#DAPPOS #ConfidenceGate #AgenticSearch #MAF #AIEvaluation #스토리텔러
AI 검색에서 흔한 문제는 자료가 부족한데도 일단 그럴듯한 답을 만들어내는 것임.
DAPPOS의 Search Subgraph에는 검색 결과를 합친 뒤 relevance를 필터링하고, 다시 Enhanced Review Loop를 거치는 과정이 있습니다.
공식 백서에서는 enhanced_search_review_node가 source diversity나 accuracy score 같은 confidence criteria가 충족됐는지 검사하고, 충분하지 않으면 검색 과정을 다시 반복하는 구조를 설명합니다.
즉
검색 완료
≠
조사 완료
임.
검색
→ 결과 병합
→ 필터링
→ Confidence 검사
→ 부족하면 다시 검색 이 되는 것.
AI가 스스로 “자료를 찾았다”와 “이제 답해도 충분하다”를 구분하도록 만드는 일종의 Quality Gate임.
#DAPPOS #ConfidenceGate #AgenticSearch #MAF #AIEvaluation #스토리텔러
Please open Telegram to view this post
VIEW IN TELEGRAM
❤10👍3🔥2