[논문리뷰] GEPA-Curator: Curated Learning for Self Improving Agents

링크: 논문 PDF로 바로 열기

메타데이터

저자: Zack Yu, Nicholas Lee, Minjae Lee, et al.

## 1. Key Terms & Definitions (핵심 용어 및 정의)

• Prompt Optimizer: LLM의 프롬프트를 자연어 피드백을 통해 반복적으로 수정함으로써 에이전트의 성능을 향상시키는 메커니즘을 의미합니다.
• Reflective Prompt Optimization: 수행 결과(Trajectory)와 평가 결과를 바탕으로 프롬프트를 진단하고 최적화하는 전략입니다.
• Task Curation: 에이전트가 학습할 태스크를 선별하여, 노이즈가 많거나 학습 신뢰도가 낮은 태스크를 제거함으로써 최적화 품질을 높이는 과정입니다.
• Prior Success Retrieval: 과거의 성공적인 태스크 수행 궤적(Trajectory)을 검색하여 현재 실패한 태스크의 프롬프트 수정을 위한 참조 데이터로 제공하는 기법입니다.
• GEPA (Generalized Evolutionary Prompt Adaptation): 에이전트의 시스템 수준 궤적에 대한 반성적 학습을 통해 프롬프트를 진화시키는 기존의 최적화 방법론입니다.

## 2. Motivation & Problem Statement (연구 배경 및 문제 정의) 본 논문은 Reflective prompt optimization 과정에서 발생하는 노이즈가 오히려 에이전트 학습에 부정적인 영향을 미칠 수 있다는 점을 지적합니다. 기존 연구들은 에이전트가 환경에서 실패했을 때, 이를 무조건적으로 프롬프트의 결함으로 간주하여 학습 신호를 생성합니다. 그러나 이러한 실패는 프롬프트의 문제뿐만 아니라, 열악한 Harness, 환경의 불확실성(Stochasticity), 혹은 평가 모델(LLM-as-a-judge)의 노이즈 등으로 인해 발생할 수 있습니다. 결과적으로, 유효하지 않은 학습 신호가 프롬프트 최적화에 반영되어 성능 저하나 오학습(Negative Transfer)을 유발하는 문제가 발생합니다 [Figure 1].

## 3. Method & Key Results (제안 방법론 및 핵심 결과) 저자들은 기존 최적화 과정 위에 독립적인 Harness 역할을 수행하는 GEPA-Curator를 제안합니다. GEPA-Curator는 학습 태스크의 이력을 분석하여, 모델의 학습에 유용한 태스크만을 선택적으로 구성하는 Task Curation 모듈과, 실패 시 과거의 성공 사례를 대조군으로 제공하여 더 정확한 프롬프트 수정을 유도하는 Prior Success Retrieval 모듈로 구성됩니다 [Figure 1]. 실험 결과, GEPA-Curator는 Gemini 3.1 Pro와 Claude Opus 5를 Optimizer로 사용한 환경에서 우수한 성능을 보였습니다. WebArena 벤치마크에서 GEPA-Curator는 기존 GEPA 대비 최대 20.7%, ACE 대비 21.2% 향상된 성능을 기록했습니다 [Table 1, Table 2]. 또한, Ablation 연구를 통해 Task curation과 Prior success retrieval 각각의 모듈이 상호 보완적으로 작동할 때 가장 높은 성능 향상을 이끌어냄을 입증했습니다 [Table 3].

## 4. Conclusion & Impact (결론 및 시사점) 본 연구는 프롬프트 최적화 학습 데이터의 질적 관리(Data Curation)가 에이전트의 자기 개선 과정에서 핵심적인 역할을 함을 증명했습니다. 태스크 선정과 성공 사례 참조라는 두 가지 전략을 통해 에이전트는 노이즈에 강건한 학습이 가능해졌으며, 다양한 환경에서 성능 개선을 달성했습니다. 이 연구는 단순히 더 많은 데이터를 사용하는 것보다 '어떤 경험이 학습에 기여하는가'를 판단하는 에이전트의 능력이 Recursive self-improvement를 실현하는 데 필수적임을 시사합니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.