[논문리뷰] Trust the Right Teacher: Quality-Aware Self-Distillation for GUI Grounding

링크: 논문 PDF로 바로 열기

메타데이터

저자: Jingyuan Huang, Zuming Huang, Yucheng Shi, Tianze Yang, Xiaoming Zhai, Wei Chu, Ninghao Liu

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• GUI Grounding: VLM이 스크린샷과 지시사항을 바탕으로 특정 인터페이스 요소의 위치를 식별하고 정확한 스크린 좌표를 예측하는 과업.
• OPSD (On-policy Self-distillation): 학생 모델이 생성한 궤적을 기반으로 교사 모델의 분포를 모방하도록 학습시키는 post-training 기법.
• Soft Correctness-aware Gating: 교사 모델의 좌표 토큰 예측이 지상 진실(Ground-truth) 상자와 공간적으로 호환되는지 여부를 판단하여, 비호환적인 신호는 완전히 삭제하는 대신 부분적으로 가중치를 낮추는 메커니즘.
• Teacher-probability Scaling: 교사 모델의 Top-1 좌표 토큰 예측 확률을 활용하여, 확신도가 높은 신호에 더 큰 distillation 가중치를 부여하고 확신도가 낮은 신호는 조정하는 기법.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 OPSD 학습 과정에서 발생하는 교사 모델 신호의 품질 저하 문제를 해결하기 위해 Quality-Aware Self-Distillation을 제안한다. 기존의 OPSD는 학생 모델이 생성한 접두어(prefix)를 조건으로 교사 모델의 신호를 생성하는데, GUI Grounding 과업에서는 모델이 이미 잘못된 좌표 예측을 시작하면 교사 모델의 후속 신호가 무의미한 길로 빠지게 되어 결과적으로 신뢰할 수 없는 지도 신호(Teacher signal)가 생성되는 문제가 발생한다. 따라서 모든 교사 신호를 균일하게 신뢰하는 기존 방식의 한계를 극복하고, spatially verifiable(공간적으로 검증 가능한) GUI grounding의 특성을 활용한 새로운 접근이 필요하다 [Figure 1].

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 연구는 Soft Correctness-aware Gating과 Teacher-probability Scaling을 결합하여 좌표 토큰에 대한 지도 신호 품질을 최적화한다. 저자들은 먼저 현재 학생 모델의 접두어 하에서 교사의 좌표 예측이 지상 진실 상자(Ground-truth bounding box) 범위 내로 완성될 수 있는지 검증하고, 이를 통해 산출된 이진 지표를 기반으로 실패한 신호를 완전히 제거하는 대신 가중치 $\alpha=0.5$로 하향 조정한다. 또한 교사의 확신도를 정량화한 확률값 $p_t$를 Distillation loss의 스케일링 인자로 사용하여, 신뢰도가 높은 신호를 더욱 강조하는 정밀한 학습을 수행한다. 최종적인 학습 목표는 각 토큰의 중요도에 따라 다르게 부여된 weight $w_t$를 적용한 가중 Reverse-KL Objective를 최적화하는 것이다 [Figure 1].

실험 결과, 제안 방법은 6개의 GUI Grounding 벤치마크(SSP, ScreenSpot-v2, UIEG, OSWorld-G, OSWorld-G-R, MMG)에서 macro-average accuracy 72.23%를 달성하였다. 이는 가장 강력한 베이스라인인 GUI-SD 대비 2.16% 포인트 향상된 수치이며, 기존의 SFT 및 GRPO 방식보다 각각 4.14%, 6.37% 높은 성능을 기록하였다 [Table 1]. 특히, Gating과 Scaling 기법을 단독으로 사용했을 때는 성능이 개선되지 않거나 오히려 저하되었으나, 두 기법을 결합했을 때 비로소 성능이 유의미하게 개선됨을 확인하였다 [Table 2].

4. Conclusion & Impact (결론 및 시사점)

본 논문은 GUI Grounding의 공간적 검증 가능성을 활용하여 OPSD에서의 지도 신호 신뢰성 문제를 효과적으로 해결하였다. 연구 결과, 신뢰할 수 없는 신호를 단순히 제거하는 대신 soft-weighting을 통해 지도 신호의 품질을 calibration하는 전략이 모델의 일반적인 Grounding 성능 향상에 필수적임을 입증하였다. 본 연구는 향후 다양한 시각적 에이전트 학습에서 지도 신호의 품질을 어떻게 관리하고 활용할지에 대한 중요한 방법론적 토대를 제공한다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.