[논문리뷰] From Sequence to Structure: Relational Uncertainty Propagation for LLM Agents

링크: 논문 PDF로 바로 열기

메타데이터

저자: Zhengzhao Ma, Boxi Cao, Yaojie Lu, Hongyu Lin, Xianpei Han, Le Sun

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• RUPA (Relational Uncertainty Propagation for Agents): 에이전트의 실행 궤적을 방향성 그래프(Directed Graph)로 모델링하여, 실행 상태 간의 의존성을 기반으로 불확실성을 전파하는 궤적 수준의 UQ 프레임워크입니다.
• Relational Trajectory Graph: 에이전트의 추론, 도구 호출, 환경 피드백을 노드로 하고, 시간적·의미적 의존성을 에지로 구성한 구조화된 실행 이력 모델입니다.
• Uncertainty Propagation: 개별 노드의 로컬 불확실성과 그래프 구조를 따라 전파된 과거의 불확실성을 결합하여, 현재 단계의 잠재적 위험을 추정하는 기법입니다.
• AUROC (Area Under the Receiver Operating Characteristic curve): 에이전트의 실패 예측 성능을 평가하기 위한 핵심 지표로, 다양한 임계값에서 이진 분류 성능을 측정합니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 기존의 UQ(Uncertainty Quantification) 방법론들이 에이전트의 복잡한 long-horizon 실행 환경에서 발생하는 오차 전파를 충분히 포착하지 못하는 문제를 해결하고자 합니다. 대부분의 기존 연구는 에이전트 궤적을 독립적인 토큰 예측이나 선형적인 시퀀스로 간주하여, 과거의 중간 단계에서 발생한 미세한 오류가 어떻게 누적되어 최종 실패로 이어지는지 설명하지 못합니다 [Figure 1]. 이러한 선형적 접근은 에이전트의 실제 의존성 구조를 반영하지 못하며, 이는 결과적으로 실패 예측 정확도를 저하시키는 핵심 요인이 됩니다 [Table 1].

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 에이전트 실행 이력을 구조화된 Relational Trajectory Graph로 변환하고, 이를 통해 불확실성을 관계 기반으로 전파하는 RUPA 프레임워크를 제안합니다 [Figure 1]. RUPA는 Sequential, Repetition, Feedback, Goal Alignment 등 7가지 유형의 의존 관계를 정의하여 에지 가중치를 동적으로 학습함으로써, 구조적으로 중요한 경로를 따라 불확실성이 우선적으로 전파되도록 설계되었습니다. 실험 결과, RUPA는 6개의 LLM 모델(예: Qwen3.5-27B, MiniMax-M2.7)과 3개의 벤치마크(τ-2, Terminal-Bench-2, GAIA)에서 기존 방법론 대비 일관되게 우수한 성능을 입증했습니다. 정량적으로는 MiniMax-M2.7 모델에서 기존 최상위 Baseline 대비 AUROC를 0.694에서 0.718로 개선하는 성과를 거두었습니다 [Table 2]. 또한, prefix-based evaluation을 통해 전체 실행이 완료되기 전에도 조기에 위험을 감지할 수 있음을 확인했으며, 불확실성 기반의 샘플링 전략을 통해 실제 에이전트의 작업 성공률을 유의미하게 향상시켰습니다 [Table 3].

4. Conclusion & Impact (결론 및 시사점)

본 연구는 에이전트의 불확실성이 독립적인 예측값이 아닌 궤적의 관계적 구조 내에서 진화하는 속성임을 규명하였습니다. RUPA를 통해 제안된 그래프 기반의 불확실성 전파 모델은 long-horizon 에이전트의 신뢰성을 확보하는 데 핵심적인 기여를 합니다. 이 접근 방식은 향후 복잡한 자율 에이전트 시스템에서 안전한 의사결정과 능동적인 오류 수정 전략을 설계하는 데 중요한 토대가 될 것으로 기대됩니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.