[논문리뷰] PEEK: Context Map as an Orientation Cache for Long-Context LLM Agents

링크: 논문 PDF로 바로 열기

저자: Zhuohan Gu, Qizheng Zhang, Omar Khattab, Samuel Madden

## 1. Key Terms & Definitions (핵심 용어 및 정의)

• PEEK: 재귀적인 LLM 에이전트 환경에서 외부 컨텍스트에 대한 지식을 캐싱하고 유지하기 위해 제안된 Orientation Cache 시스템입니다.
• Context Map: 에이전트의 시스템 프롬프트 내에 위치하는 고정 크기의 아티팩트로, 외부 컨텍스트의 구조와 유용한 정보를 담고 있는 orientation knowledge를 저장합니다.
• Distiller: 실행 궤적(trajectory)을 분석하여 transferrable한 문맥 지식을 추출하는 PEEK의 모듈입니다.
• Cartographer: 추출된 지식을 바탕으로 Context Map에 대한 구조적 편집(ADD, DELETE, REPLACE)을 수행하는 모듈입니다.
• Evictor: 정해진 토큰 예산을 준수하기 위해 우선순위 기반의 정책을 적용하여 Context Map의 크기를 관리하는 모듈입니다.

## 2. Motivation & Problem Statement (연구 배경 및 문제 정의) 본 연구는 대규모 외부 컨텍스트를 반복적으로 쿼리하는 LLM 에이전트 환경에서 발생하는 반복적인 오리엔테이션 작업의 비효율성 문제를 해결합니다. 기존의 RAG나 Context Compaction 방식은 외부 컨텍스트에 대한 수동적인 액세스만을 제공할 뿐, 반복적인 작업 수행을 통해 얻어진 지식을 구조화하여 재사용하는 메커니즘을 결여하고 있습니다. [Figure 1]에서 볼 수 있듯이, 이러한 한계로 인해 에이전트는 동일한 컨텍스트 내의 다른 작업 시 매번 처음부터 다시 탐색해야 하는 문제에 직면합니다. PEEK는 이러한 중복 탐색을 줄이고, 이전의 탐색 경험을 통해 얻은 Context Roadmap과 Context Understanding을 지속적인 프롬프트 아티팩트로 남겨두어 에이전트의 효율적인 추론을 돕고자 합니다.

Figure 1 — 다양한 베이스라인 대비 PEEK의 성능 우위를 보여주는 핵심 결과 그래프

## 3. Method & Key Results (제안 방법론 및 핵심 결과) PEEK는 Distiller, Cartographer, Evictor의 3단계 모듈로 구성된 프로그래밍 가능한 캐시 정책을 통해 Context Map을 구축하고 진화시킵니다. Distiller는 에이전트의 execution trajectory를 기반으로 orientation knowledge를 진단하고, Cartographer는 이를 구조적인 edit operations로 변환하여 map을 업데이트하며, Evictor는 고정된 토큰 예산 내에서 관리합니다. 실험 결과, PEEK는 OOLONG 벤치마크에서 기존 SOTA 프롬프트 러닝 프레임워크인 ACE 대비 6.3–34.0% 향상된 성능을 보였으며, CL-bench에서도 solving rate와 rubric accuracy에서 각각 6.0–14.0%, 7.8–12.1%의 성능 개선을 기록했습니다. [Table 1]은 다양한 베이스라인 대비 PEEK의 우위를 잘 보여줍니다. 또한, PEEK는 ACE 대비 93–145회 더 적은 반복 횟수(iteration)를 사용하여 1.7–5.8배 낮은 비용으로도 뛰어난 품질의 결과를 달성하며, GPT-5.5, Qwen3-Coder, OpenAI Codex 등 다양한 모델과 에이전트 환경으로의 강력한 일반화 능력을 입증했습니다.

Table 1 — OOLONG 및 CL-bench 벤치마크에서의 정량적 성능 비교표

## 4. Conclusion & Impact (결론 및 시사점) PEEK는 반복적인 외부 컨텍스트 쿼리 작업에서 성능과 효율성을 극대화하는 최초의 에이전트용 지식 캐싱 시스템으로, Context Map이라는 새로운 아티팩트를 제안합니다. 이 연구는 LLM 에이전트가 단기적인 기억(context window)을 넘어 장기적인 문맥 지식을 독립적인 아티팩트로 관리할 수 있음을 보여줍니다. 이러한 접근 방식은 특히 대규모 데이터셋을 반복적으로 처리하는 기업 데이터 분석이나 코드 저장소 탐색과 같은 에이전트 서비스의 실용성을 크게 높일 것으로 기대됩니다. PEEK는 대형 언어 모델의 추론 비용을 획기적으로 줄이면서도 에이전트의 인지적 효율성을 향상시킬 수 있는 핵심적인 연구 경로를 제시합니다.

---

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.