[논문리뷰] Recursa: Toward Recursively Self-Improving Foundation Model Systems

링크: 논문 PDF로 바로 열기

메타데이터

저자: Erkang Zhu, Yin Lin, Xiaorong Shi, Xuanrui Lin, Jingren Zhou

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• Recursa: 인간 전문가나 더 강력한 모델의 개입 없이, 스스로 도메인 지식을 학습하고 행동을 개선하는 재귀적 자기 개선(Recursively Self-Improving) 파운데이션 모델 시스템.
• Knowledge Repository: 모델이 도메인 지식을 저장하는 핵심 요소로, Instructions, Skills, Memory로 구성되어 시스템의 동작을 제어함.
• Harness: 파운데이션 모델을 에이전트로 변환하는 계층으로, Persistent Python REPL을 통해 도구 사용(Tool Composition) 및 프로그램 방식의 컨텍스트 관리(Programmatic Context Management)를 지원함 [Figure 1].
• Bootstrapping: 도메인 자료(Corpus)를 요약·매핑하고 스스로 생성한 연습 과제를 수행함으로써, 초기 Knowledge Repository를 구축하는 학습 단계 [Table 1].

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 파운데이션 모델이 새로운 도메인 환경에 직면했을 때 발생하는 '지식 격차(Knowledge Gap)'와 '행동 격차(Behavior Gap)' 문제를 해결하고자 한다. 기존 모델들은 도메인 적응을 위해 대규모의 전문가 데이터나 강력한 지도 신호가 필요한데, 이는 실제 환경에서 구하기 어렵다는 한계가 있다. 또한, 단순히 모델의 weight를 업데이트하는 방식은 특정 도메인의 복잡한 지식 체계와 행동 요구사항을 완전히 반영하기 어렵다. 따라서 저자들은 모델뿐만 아니라 시스템 전체(instructions, skills, memory, harness)를 학습시켜 지속적으로 적응하는 능력이 필요하다고 주장한다 [Table 1].

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 Recursa라는 시스템을 통해 도메인 자료로부터 지식을 Bootstrapping하고, 다중 에이전트(Multi-Agent) 기반의 재귀적 자기 개선 루프를 통해 시스템을 정교화하는 방법론을 제안한다 [Figure 3]. Recursa의 학습은 Solve (과제 수행), Diagnose (오류 진단), Edit (지식 저장소 수정), Validate (검증)의 반복적인 루프를 통해 이루어진다 [Algorithm 1]. 특히, 과제를 세분화하여 병렬 에이전트가 처리하게 함으로써 학습 효율성을 극대화한다 [Table 3]. Harvey LAB 벤치마크 실험 결과, Recursa는 DeepSeek-V4.1-Flash 모델에서 test task all-pass rate를 기존 30.0%에서 55.0%로, Qwen3.8-Flash 모델에서는 35.0%에서 46.0%로 대폭 향상시켰다 [Table 3]. 이는 시스템이 외부의 강력한 모델 도움 없이도 스스로 성능을 극적으로 개선할 수 있음을 입증한다.

4. Conclusion & Impact (결론 및 시사점)

본 논문은 파운데이션 모델 시스템이 외부의 지도 없이 재귀적으로 자기 개선을 수행하여 새로운 도메인에 효과적으로 적응할 수 있음을 입증했다. 이 연구는 모델의 단순한 파라미터 업데이트를 넘어, 지식 저장소와 제어 시스템(Harness)의 구조적 학습이 복잡한 지식 집약적 도메인에서 매우 중요함을 시사한다. Recursa의 성공은 향후 대규모 도메인 지식 습득이 필요한 실무 분야(법률, 금융 등)에서 자율적인 AI 에이전트 구축을 위한 핵심 아키텍처로 활용될 전망이다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.