[논문리뷰] DarwinX: Evolving Agent Harnesses Through Natural Selection

링크: 논문 PDF로 바로 열기

본 논문은 LLM agent의 성능을 결정짓는 핵심 요소인 harness(프롬프트, 도구, 제어 흐름 등)를 모델 가중치 수정 없이 자연 선택(Natural Selection) 메커니즘을 통해 진화시키는 방법론인 DarwinX를 제안한다.

1. Key Terms & Definitions (핵심 용어 및 정의)

• Harness: LLM agent의 외부 인터페이스로, 프롬프트, 도구 사용, 메모리 관리 및 제어 흐름을 포함하여 모델의 행동을 규정하는 전체적인 절차를 의미한다.
• Preserve-and-Extend Contract: 자식(child) harness가 부모(parent)의 성과를 보존(preservation)하면서 새로운 작업을 추가(extend)하는 경우에만 진화를 허용하는 엄격한 선택 규칙이다.
• avg@kk: 특정 작업 집합에 대해 여러 번 수행한 후의 성공률(pass rate)을 측정하는 지표로, 개별 시도에서의 우연한 성공(luck)을 배제하고 강건한 능력을 평가한다.
• Lineage Gain: 부모 harness의 성과와 자식 harness의 증분적 성과를 합산하여, 어떤 lineage가 더 효과적인 진화 방향을 가지고 있는지 판단하는 누적 지표이다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

기존의 self-evolving agent 연구들은 단일 lineage(single-lineage)를 따라 개선을 시도하는 경향이 있어, 특정 작업에 대한 과적합이나 초기 편집에 따른 경로 의존성(path dependence) 문제에 직면한다. 또한, 한 작업군의 문제를 해결하기 위한 수정이 다른 작업군의 성능을 떨어뜨리는 교차 작업 간섭(cross-task interference) 현상이 성능 향상을 저해한다. 저자들은 이러한 한계를 극복하기 위해 단순히 하나의 경로를 최적화하는 대신, 여러 대안적 lineage를 보유하고 검증된 변이체들만을 선별적으로 합치는 새로운 진화적 접근법의 필요성을 제기한다 [Figure 1].

Figure 1 — DarwinX의 진화적 선택 방식

3. Method & Key Results (제안 방법론 및 핵심 결과)

DarwinX는 모델 가중치를 고정한 채 harness의 진화에 집중하며, archive 기반의 인구(population) 관리와 preserve-and-extend contract를 통해 안정적인 능력을 축적한다 [Figure 2]. 제안 방법론은 failure-derived diagnosis, teacher-derived demonstrations, self-derived rollout contrast 등 다양한 학습 신호를 harness 편집을 위한 단일 인터페이스로 통합하여 사용한다. 핵심 실험 결과로서, Terminal-Bench 2.1에서 DarwinX로 진화된 harness는 base 모델 대비 +7.7%의 성능 향상을 기록하여 83.2%의 성공률을 달성했으며, 더 강력한 모델 사용 시 84.7%라는 최고 수준의 성능에 도달했다 [Table 2]. 또한, WebArena-Infinity에서는 synthetic intent만으로 학습했음에도 실제 환경(real-task)에 대한 pass@1 성능을 43.5%에서 93.0%로 대폭 개선하는 등 뛰어난 일반화 성능을 입증했다.

Figure 2 — DarwinX 아키텍처 및 선택 루프

4. Conclusion & Impact (결론 및 시사점)

본 논문은 LLM agent의 성능이 모델 자체의 개선 없이도 harness 선택 과정을 통해 지속적으로 향상될 수 있음을 증명한다. DarwinX를 통해 구축된 harness는 특정 benchmark에 종속되지 않고 다른 환경(예: SWE-bench Verified)으로 이전(transfer) 가능하며, 이는 harness 최적화가 모델 세대를 넘어서는 내구성 있는 자산(durable capability)이 될 수 있음을 시사한다. 이 연구는 앞으로 agent 설계가 정적인 프롬프트 엔지니어링에서 진화적인 절차 생성 체계로 전환될 가능성을 보여준다.

Figure 3 — 진화적 연산자와 인구 관리

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.