[논문리뷰] Are Android GUI Agents Robust Against Runtime Anomalies? AnTrap: Evaluating Agents in Dynamic Adversarial Environments

링크: 논문 PDF로 바로 열기

저자: Guo Gan, Yilun Zhao, Cong Chen, Jinbiao Wei, et al.

1. Key Terms & Definitions

• GUI agents: Android 장치에서 사용자 지침에 따라 복잡한 작업을 수행하는 인공지능 에이전트입니다.
• AnTrap: Android GUI Agents의 runtime anomalies에 대한 robustness를 체계적으로 평가하기 위해 설계된 포괄적인 벤치마크 스위트입니다.
• STAR Taxonomy: AnTrap 벤치마크에서 사용되는 runtime anomalies 분류 체계로, State, Thinking, Action, Round의 네 가지 Layer와 열 가지 fine-grained subcategories로 구성됩니다.
• GRPO (Group Relative Policy Optimization): 동적 환경에서 trajectory-level로 에이전트 정책을 학습시키기 위해 널리 활용되는 강화 학습 방법론입니다.

2. Motivation & Problem Statement

본 논문은 Android GUI agents가 실제 배포 환경에서 겪는 동적 runtime anomalies에 대한 robustness 부족 문제를 해결하고자 합니다. 기존 GUI agents는 예상치 못한 팝업, 시스템 결함, 렌더링 지연과 같은 외부 환경 perturbations과 GUI 요소 hallucination, 부정확한 grounding, 액션 오용과 같은 내부 오류에 직면했을 때 독립적으로 회복하는 데 어려움을 겪습니다. 그러나 기존 벤치마크들은 이러한 runtime anomalies에 대한 에이전트의 robustness를 체계적으로 평가하지 못하고 있습니다. 대부분의 벤치마크는 안정적이고 깨끗한 조건에서 에이전트의 전반적인 성능을 평가하거나, 미리 정의된 정적 adversarial trajectory를 사용한 단일 스텝 테스트에 그쳐, 실제 환경에서 발생하는 광범위한 동적이고 다층적인 runtime challenges를 포괄하지 못합니다. 이러한 한계점은 GUI agents의 신뢰성 있는 실제 세계 배포를 저해하는 중요한 Gap으로 작용합니다.

3. Method & Key Results

저자들은 Android GUI agents의 runtime anomalies에 대한 robustness를 평가하기 위해 AnTrap 벤치마크를 제안합니다. AnTrap은 AndroidWorld를 기반으로 확장된 236개의 original tasks 세트에 동적 perturbations를 주입하여 구축되었습니다. 핵심 방법론으로, 실제 anomalies를 State, Thinking, Action, Round 네 가지 Layer와 열 가지 fine-grained subcategories로 분류하는 STAR Taxonomy를 제안합니다 [Figure 1, cite: 1]. 이 Taxonomy는 에이전트의 실행 루프 ⟨S,T,A⟩를 가로채어 동적 perturbations(L_trap)을 주입하는 construction pipeline을 통해 구현됩니다 [Figure 2, cite: 1]. State traps는 에뮬레이터 상태를 직접 수정하여 팝업이나 렌더링 오류를 유발하고, Thinking traps는 잘못된 관찰을 주입하여 에이전트의 인지적 오류를 시뮬레이션하며, Action traps는 에이전트의 출력 Action을 가로채어 좌표나 타입을 변경하고, Round traps는 여러 스텝에 걸친 실행 흐름을 방해하여 State Deadlock이나 Loop와 같은 상황을 만듭니다.

실험 결과, 16개의 선도 GUI 모델을 AnTrap으로 평가한 결과, 모든 모델이 동적 traps에 대해 보편적인 취약성을 보였습니다. 가장 강력한 모델인 Claude-Sonnet-4.6는 74.2%에서 66.5%로, GUI-Owl-1.5-32B-Think는 69.5%에서 62.4%로 평균 성공률이 크게 감소했습니다. 특히, 모델들은 단일 스텝 anomalies (예: Action Layer traps, State Layer의 Visual Obscuration, Thinking Layer의 Visual Hallucination)보다 Round Layer traps와 같은 contextual anomalies에 더 취약함을 드러냈습니다. 또한, Reasoning capabilities가 clean environment에서의 성능 향상에는 기여하지만, runtime anomalies에 대한 robustness는 비례하여 개선되지 않는다는 것이 밝혀졌습니다.

이를 further 분석하기 위해, 저자들은 GRPO (Group Relative Policy Optimization) 훈련을 original 환경과 AnTrap 환경 모두에서 수행했습니다. Original 환경에서의 GRPO는 일반적인 Task Completion 성능을 향상시켰지만, runtime anomalies에 대한 robustness 개선은 미미했습니다. 반면, AnTrap 환경에서의 GRPO는 State-level traps에서 +8.1%에서 +11.0%, Action-level execution errors에서 최대 +8.5%의 상당한 robustness 향상을 보였습니다 [Table 4, cite: 1]. 그러나 Thinking Layer의 Reasoning traps에서는 +4.2%에서 +5.1%로 중간 정도의 개선을 보였고, State Deadlock이나 Context Disruption과 같은 multi-step contextual anomalies (R-layer)에서는 +3.0% 미만의 미미한 개선에 그쳤습니다 [Table 4, Figure 3, cite: 1]. 이는 single-step anomalies는 adversarial exposure를 통해 학습될 수 있지만, 복잡한 contextual traps는 RL만으로는 극복하기 어렵다는 것을 시사합니다.

4. Conclusion & Impact

본 논문은 Android 환경에서 GUI agents의 runtime anomalies에 대한 robustness를 체계적으로 평가하기 위한 AnTrap 벤치마크를 제시합니다. 제안된 STAR Taxonomy와 정교한 construction pipeline을 통해 16개 선도 모델들의 동적 traps에 대한 보편적인 취약성을 밝혀냈습니다. 또한, GRPO 훈련을 통해 single-step anomalies (State 및 Action layers)는 환경 학습을 통해 개선될 수 있지만, State Deadlock과 같은 deep contextual traps는 에이전트의 intrinsic limitation으로 인해 해결이 어렵다는 중요한 통찰을 제공했습니다. 이 연구는 GUI agents의 실제 세계 배포에 필요한 robustness 평가의 중요성을 강조하고, 향후 agent 개발이 단일 스텝 오류를 넘어 long-horizon reasoning 및 meta-cognitive self-monitoring capabilities 강화에 집중해야 함을 시사하며, 이는 해당 분야의 학계 및 산업계에 중대한 영향을 미칠 것입니다.

Figure 1 — AnTrap Taxonomy의 4개 Layer

Figure 2 — AnTrap 벤치마크의 전체 개요

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.