[논문리뷰] PolicyGuide: From Guarding One Action to Guiding the Whole Workflow for Policy-Compliant LLM Agents

링크: 논문 PDF로 바로 열기

메타데이터

저자: Seongjae Kang, Taehyung Yu, Sung Ju Hwang

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• PolicyGuide: 도메인 정책을 Workflow Graph로 컴파일하고, 사용자 턴마다 Proactive Verifier를 호출하여 에이전트의 행동을 정책에 맞게 안내 및 제어하는 시스템입니다.
• Workflow Graph: 복잡한 비즈니스 절차를 노드(노드 유형: action, decision, tool_call 등)와 엣지로 구성한 정책 표현 방식입니다.
• Proactive Verifier: 에이전트가 행동하기 전, 대화 기록과 persisted state를 바탕으로 현재 절차상 다음 단계를 검증하고 필요한 경우 Remediation을 제공하는 외부 가이드입니다.
• Remediation: 에이전트가 수행해야 할 절차적 요구사항을 준수하지 않았을 때, 이를 교정하기 위해 Verifier가 제공하는 구체적인 안내 메시지입니다.
• Pass^k: 특정 태스크에 대해 k번의 시도 중 성공한 횟수를 기반으로 평가하는 성능 지표입니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 고객 서비스 LLM 에이전트가 비즈니스 정책을 준수하지 못하는 문제를 해결하기 위해 제안되었습니다. 기존의 Runtime Safeguards는 주로 마지막 단계의 Mutating Tool Call을 차단하는 Action-scoped 방식에 그치며, 다단계 절차의 중간 생략이나 부적절한 순서 등의 Procedural Failures를 초래한다는 한계가 있습니다 [Figure 1, 2]. 또한, 단순한 Workflow-following 시스템은 절차 완료에만 초점을 맞출 뿐, 일반 목적 에이전트의 잠재적 정책 위반 행동을 효과적으로 보호하지 못합니다. 따라서 저자들은 에이전트 행동을 전 과정에 걸쳐 모니터링하고 필수 절차를 강제할 수 있는 Proactive한 접근 방식의 필요성을 제시합니다.

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 정책을 Workflow Graph로 컴파일하고 이를 외부의 Proactive Verifier를 통해 실시간으로 추적하는 PolicyGuide를 제안합니다 [Figure 3]. Verifier는 사용자 턴 경계마다 Persisted state를 검토하여 에이전트가 절차를 이탈할 경우 즉각적인 Remediation을 제공하며, 필요 시 부적절한 행동을 차단합니다. 실험 결과, GPT 5.4 기반의 에이전트에서 PolicyGuide는 평균 Pass^4 지표를 기존 0.42에서 0.62로 크게 향상시켰습니다 [Table 1]. 특히 절차적 구조가 강한 Telecom 도메인에서는 Pass^4가 0.19에서 0.61로 비약적으로 상승하여, 복잡한 Workflow 제어 능력을 입증했습니다 [Table 1, Figure 4]. 또한, 동일한 Workflow Graph를 Claude Sonnet 4.6 및 Gemini 2.5 Pro 모델에 적용했을 때도 성공적인 성능 전이(Transfer)가 나타나 시스템의 범용성을 확인했습니다 [Table 4].

4. Conclusion & Impact (결론 및 시사점)

본 논문은 정책 준수 문제를 단순히 특정 액션을 제한하는 문제를 넘어, 전체 워크플로우를 안내하는 관점에서 해결하는 혁신적인 프레임워크를 정립했습니다. PolicyGuide는 에이전트 모델의 재학습 없이도 외부 Runtime 제어를 통해 높은 수준의 절차적 준수와 안전성을 확보할 수 있음을 입증했습니다. 이 연구는 산업계의 고객 서비스 자동화 시스템에서 에이전트의 신뢰성과 정책 준수율을 높이는 데 실질적인 기여를 할 것으로 기대됩니다. 향후 연구는 더욱 복잡한 다중 사용자 환경에서의 워크플로우 동기화나 실시간 비용 효율성을 개선하는 방향으로 확장될 수 있을 것입니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.