기록을 많이 남겼는데 더 찾기 어려워졌다 — 파일을 옮기지 않고 Retrieval Layer를 만든 이유
History가 커지자 기록 부족보다 검색 비용이 문제가 됐다. 원문을 프로젝트별로 재배치하는 대신 provenance를 보존하고 catalog, query, purpose-specific projection을 위에 얹은 과정을 정리한다.
History가 커지자 기록 부족보다 검색 비용이 문제가 됐다. 원문을 프로젝트별로 재배치하는 대신 provenance를 보존하고 catalog, query, purpose-specific projection을 위에 얹은 과정을 정리한다.
실행 프롬프트와 handoff를 크게 줄인 뒤 실제 context 비용도 줄었는지 측정했다. 결과는 단순했다. 전송량을 줄이는 것과 모델이 다시 읽는 정보량을 줄이는 것은 다른 문제였다.