[논문리뷰] AgenticSTS: A Bounded-Memory Testbed for Long-Horizon LLM Agents

링크: 논문 PDF로 바로 열기

저자: Xiangchen Cheng, Yunwei Jiang, Jianwen Sun, Zizhen Li, Chuanhao Li, Xiangcheng Cao, Yihao Liu, Fanrui Zhang, Li Jin, Kaipeng Zhang, et al.

## 1. Key Terms & Definitions (핵심 용어 및 정의)

• Bounded-Memory Contract: 에이전트의 매 Decision마다 이전의 모든 Transcript를 붙이는 대신, 5개의 Typed Layer에서 필요한 정보만을 선별하여 구성하는 고정 크기의 프롬프트 인터페이스입니다.
• Typed Retrieval: 에이전트가 L1부터 L5까지의 Typed Slot(Protocol, Schema, Rules, Episodes, Skills)에서 필요한 정보를 명시적으로 선택하여 가져오는 정보 검색 및 구성 메커니즘입니다.
• AgenticSTS: Slay the Spire 2 게임을 기반으로 구축된 Long-Horizon LLM 에이전트의 메모리 구조를 연구하기 위한 재현 가능한 벤치마크 테스트베드입니다.
• Loop Engineering: 에이전트의 제어 루프 내에서 어떤 정보가 에이전트의 문맥으로 유입되어야 하는지를 설계하는 프로세스로, 본 논문은 메모리 단계를 이 루프의 핵심 변수로 정의합니다.

## 2. Motivation & Problem Statement (연구 배경 및 문제 정의) 본 연구는 Long-Horizon LLM 에이전트가 겪는 'Context Growth' 문제를 해결하고, 에이전트의 메모리 인터페이스를 체계적으로 평가할 수 있는 통제된 환경을 제공하기 위해 수행되었습니다. 기존의 에이전트들은 과거의 모든 관측값, Tool Call, Reflection을 Prompt에 계속 추가하는 방식을 사용하여 문맥이 비대해지고, 특정 메모리 구성 요소의 기여도를 구분(Ablation)하기 어렵다는 한계를 가집니다. 저자들은 이러한 암묵적 문맥 확장 방식에서 벗어나, 메모리 인터페이스를 명확한 '계약(Contract)'으로 정의함으로써 에이전트의 의사결정을 inspectable하고 reusable하게 개선하고자 합니다. [Figure 1]은 이러한 제한된 메모리 계약이 어떻게 에이전트의 의사결정을 평가 가능한 표면으로 바꾸는지를 개념적으로 설명합니다.

Figure 1 — 제안하는 Bounded-Memory Contract의 개념적 아키텍처와 주요 구성요소를 명확하게 보여주는 핵심 도표입니다.

## 3. Method & Key Results (제안 방법론 및 핵심 결과) 저자들은 Slay the Spire 2 게임 내에서 5개의 Typed Layer(Protocol, Schema, Rules, Episodes, Skills)를 사용하여 매 Decision마다 Fresh하게 프롬프트를 구성하는 Bounded-Memory Contract를 제안합니다. 이 구조는 raw transcript를 삭제하고, 각 레이어를 독립적으로 제어(Ablation)할 수 있게 하여 특정 메모리 요소가 성능에 미치는 영향을 정확히 추적합니다. 실험 결과, no-scaffold baseline 대비 triggered L5 skills를 활성화했을 때 A0 난이도에서 승률이 3/10에서 6/10으로 향상되는 유의미한 성능 차이를 확인했습니다. [Table 2]는 이러한 5가지 구성 조건에 따른 승률 및 점수 변화를 보여줍니다. 또한, [Figure 7]에서 보여지듯 기존의 Accumulating-Context 에이전트들이 Decision이 늘어남에 따라 프롬프트 토큰 수가 500k까지 증가하는 반면, 제안하는 방법론은 약 5k 수준의 일정한 토큰 범위를 유지하여 압도적인 효율성을 입증했습니다.

Table 2 — 다양한 메모리 조건에 따른 에이전트의 승률과 점수를 비교한 핵심 결과 표입니다.

Figure 7 — 기존 방식 대비 제안하는 방식의 토큰 효율성을 결정적으로 증명하는 그래프입니다.

## 4. Conclusion & Impact (결론 및 시사점) 본 논문은 메모리 인터페이스를 단순한 구현 세부 사항이 아닌 연구 대상(Object of evaluation)으로 격상시키며, 구조화된 Typed Memory가 Long-Horizon 에이전트의 행동을 해석하고 개선하는 데 핵심임을 입증했습니다. 이 연구는 복잡한 게임 환경뿐만 아니라, 추후 유사한 구조를 가진 비게임 도메인의 에이전트 설계 및 평가에도 광범위하게 적용될 수 있는 방법론적 토대를 마련하였습니다. 향후 이 아카이브는 고정된 환경과 Denominator를 공유함으로써, 에이전트 커뮤니티가 동일한 기초 위에서 메모리 전략을 비교 평가할 수 있는 표준적인 리소스로 활용될 전망입니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.