context-cost-optimization

QA Agent Context 줄이기

문제

  • 게임 테스트 중 pulse view가 쌓이면서 입력 token 증가
  • macro 결과에도 같은 view가 중복으로 포함

변경

  • 오래된 pulse view 일괄 축약
  • macro 결과의 중복 view 제거

비교

  • 동일한 24단계 시나리오를 방식별로 3회씩 실행
  • 모델, prompt, build 버전 고정
  • 매 실행마다 새로운 knowledge scope 사용
항목 변경 전 변경 후
호출당 평균 입력 token 94,257 35,543
실행당 평균 비용 $0.126 $0.077
캐시 적중률 97.3~98.6% 91.5~93.9%
  • 입력 token 약 62%, 실행 비용 약 39% 감소
  • 캐시 적중률은 떨어졌지만 입력량이 줄어 전체 비용 감소

PR #212