[논문리뷰] When Teachers Mislead: Spurious-Signal-Aware On-Policy Distillation본 논문은 OPD에서 교사 모델이 내리는 토큰 단위의 판단이 항상 신뢰할 수 있는 것은 아니라는 점을 지적합니다. 기존 연구들은 교사의 신호가 자신감이 높거나 학습 가능하면 유용하다고 가정하지만, 실제로는 입력과 무관한 관례나 편향된 추론 패턴이 포함된 'Spurious Signals'가 학습을 오염시킵니다 .#Review#On-Policy Distillation#Spurious Signals#Input-Groundedness#Token-level Selection#Large Language Models#Vision-Language Models2026년 8월 5일댓글 수 로딩 중