[논문리뷰] Read Less, Solve More: Token-Efficient Sparse Reading of External Content for AI Agents

링크: 논문 PDF로 바로 열기

저자: Zedong Liu, Jiaan Wu, Xinyang Ma, Le Xu, Kai Wang, Yuanchao Hu, Dingwen Tao, Guangming Tan (University of Chinese Academy of Sciences, Songshan Lake Materials Laboratory, Institute of Computing Technology CAS)

1. Key Terms & Definitions (핵심 용어 및 정의)

• Over-reading: 매 decision에 필요한 것은 범위가 정해진 작은 evidence slice뿐인데, agent가 외부 artifact(문서, PDF, 테이블, 다중 파일)를 object granularity 전체로 읽어 들이는 비효율을 말한다.
• Sparse Reading: 큰 외부 artifact 전체가 model context에 들어가기 전에 현재 step에 필요한 task-relevant evidence만 노출하는 pre-read evidence acquisition 전략이다. 이 과정에서 source anchor와 아직 해결되지 않은 요구사항을 보존하고, native reading으로 돌아가는 fallback 경로를 유지한다.
• Compression Distrust: 압축된 결과에 source anchor, 미해결 요구사항, 다음 action의 범위가 없으면 agent는 evidence가 완전한지 판단하지 못한다. 그 결과 broad re-read를 반복하게 되는 failure mode다.
• Read Gate: Request 단위로 한 번 실행되는 deterministic controller다. Avoidable context exposure(s), protocol cost(c), omission risk(r)로 linear margin b = w_s·s − w_c·c − w_r·r을 계산하고, 이를 기준으로 FORCE / ADVISORY / NATIVE 세 mode 중 하나를 고른다.
• Macro-action set: SCOUT, FOCUS, COLLECT, REFINE, VERIFY로 이루어진 고정 action 집합이다. Agent는 macro action만 선택하고, 실제 backend 선택은 Reader Router가 담당한다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

이 논문은 agent가 외부 artifact를 통째로 읽어 생기는 over-reading 문제를 다룬다. 핵심 아이디어는 context에 들어가기 전에 읽을 내용을 통제하는 것이다. 선행 연구에 따르면 agent trajectory에서 처리되는 token의 60–80%가 외부 observation이다. 저자들의 trace 분석에서는 high-sparsity task의 경우 노출된 reading content 중 실제 decision에 기여하는 비율이 6–15%에 불과했다. Paired 실행에서 full-read agent는 token을 최대 17.3배 더 쓰고도 task quality가 나아지지 않았다. 오히려 불필요한 content가 relevant evidence를 희석해 잘못된 tool use, source confusion, 종료 실패를 일으켰다.

기존 방법들은 모두 content가 이미 context에 들어온 뒤에 개입한다는 한계가 있다.

• Long-context 아키텍처와 KV-cache compression: 이미 소비된 token이나 trajectory drift를 되돌릴 수 없다.
• Model-based compression(예: ACON): 추가 inference overhead가 발생한다.
• Observation masking(Complexity Trap): 위치 기반의 고정 규칙이라 evidence 수요를 반영하지 못한다.

단순 compressor를 붙이는 것만으로도 부족하다. Coverage를 알 수 없는 sparse result를 받은 agent는 request를 1.7–6.2배, token을 2.1–12.5배 더 소비했다(compression distrust). 또 whole-table 계산이나 작은 파일 검사처럼 low-sparsity task에 sparse reading을 강제하면 token이 오히려 309.2%(T67), 210.5%(T59) 증가했다. 따라서 trust protocol과 regime 경계를 판단하는 장치가 함께 필요하다.

3. Method & Key Results (제안 방법론 및 핵심 결과)

SparseRead는 training-free이고 model-transparent한 reading layer로, 두 plane으로 구성된다.

• Control plane: agent에게 reading protocol을 제공하고, model이 볼 수 있는 read state를 관리하며, context admission을 조절한다.
• Evidence-compression plane: Reader Backends를 통해 실제 evidence를 획득한다.
• 두 plane 사이는 Unified Reader Interface가 request, action, evidence contract를 고정한다. 그래서 새 Reader를 추가해도 agent가 보는 interface는 바뀌지 않는다.

Protocol은 다음 순서로 진행된다.

1. Object Preview로 artifact의 bounded view를 먼저 보여준다.
2. Agent가 Read Intent를 작성하고 macro action을 고른다.
3. 결과는 anchored observation 형태로 Evidence State에 누적된다.
4. Evidence가 intent를 충족하면(closure) 종료한다. 진행이 멈추거나 budget이 소진되면 native fallback으로 전환한다.

Reader Router는 capability 일치도와 profiled cost로 backend를 고른다. 구현된 Reader는 text/PDF, table, multi-file collection, script-library 유형이며, backend 실행 중에 추가 learned model을 호출하지 않는다. Read Gate는 offline profiling으로 weight와 threshold를 정해 두고, inference 시 한 번만 판단한다. SparseRead는 read 경계 이전의 prefix를 수정하지 않으므로 exact-match prefix caching 재사용도 그대로 유지된다. NanoBot, OpenCode, OpenClaw에는 얇은 adapter로 통합되었다.

주요 결과

• 6개 model × 5개 scenario (NanoBot): 30개 cell 모두에서 token과 wall time이 줄었다. 감소폭은 각각 최대 92.9%, 89.0%이며, 26개 cell에서 score가 유지되거나 개선되었다. 비교 대상 model은 Claude Opus 5, Qwen3.6-Plus, DeepSeek-V4-Flash/Pro, GLM-5.1, Kimi-K2.5이다.
  • 가장 강한 model인 Claude Opus 5도 sparse-fit scenario에서 token 59.6–89.0%, wall time 51.3–78.1%를 절감했다.
  • AI for Science(materials chemistry) task에서는 token이 82.7–89.1% 줄었다.
• Baseline 비교 (ACON, Obs. masking): 6개 model–scenario 설정 모두에서 SparseRead가 token과 time 모두 가장 낮았다. Score가 Naive 아래로 떨어지지 않은 방법도 SparseRead뿐이었다.
  • Token은 63.4–86.3% 줄었고, End-to-End 완료 시간은 1.8–3.6배 빨라졌다.
  • ACON은 4개 설정에서 Naive보다 비용이 더 컸다.
• Framework 이식성: 3개 framework × 5개 model, 총 15개 cell 모두에서 비용이 줄었고, 12개 cell에서 score가 유지되거나 개선되었다. Median token reduction은 NanoBot 69.0%, OpenCode 71.8%, OpenClaw 28.7%였다.
  • 대표적으로 NanoBot + Kimi-K2.5 조합은 token 92.9%를 줄이면서 score가 +0.598 올랐다.
• Read Gate 검증 (DeepSeek-Pro, 8개 matched task): Clear-win 14건 모두 비용 절감과 quality 유지를 동시에 달성했고, 이때 median token reduction은 79.6%였다.

4. Conclusion & Impact (결론 및 시사점)

SparseRead는 agent 효율화의 초점을 post-hoc context compression에서 pre-reading control로 옮겼다. 이를 통해 quality를 유지하면서 token과 latency를 크게 줄일 수 있음을 보였다. 가장 강한 model에서도 이득이 유지된다는 점은 over-reading이 현재 model의 약점이 아니라 agent가 외부 정보와 상호작용하는 방식의 구조적 비효율이라는 근거가 된다.

산업적으로는 production-grade agent harness에서 reading을 tool의 부수 효과로 두지 말고, 명시적이고 통제 가능한 execution path로 설계해야 한다는 원칙을 제시한다. Model 재학습 없이 기존 framework에 plug-in으로 붙일 수 있고 prefix cache와도 호환되어 실용성이 높다. 학계 측면에서는 "무엇을, 얼마나 읽고, 언제 멈출지"를 future model과 agent training에서 하나의 first-class capability로 다룰 수 있다는 방향을 제안한다. 다만 SWE-Pruner 같은 model-based Reader를 통합하는 경로는 이 논문에서 평가되지 않았다.

참고: 이번에 가져온 페이지는 텍스트 형태로만 반환되어 Figure의 <img> src 경로를 확인하지 못했습니다. 추측으로 이미지 URL을 만들지 않기 위해 Figure를 선별하지 않았고, 본문에서도 Figure/Table 번호를 쓰지 않았습니다. Table 1(framework별 결과)은 이미지가 아닌 HTML 테이블이라 선별 기준에서 제외됩니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.