[논문리뷰] On-Policy or Off-Policy Learning? A Systematic Study of Distillation Dynamics본 논문은 Post-training 과정에서 널리 활용되는 On-policy와 Off-policy 학습 방법론 사이의 성능 차이를 유발하는 핵심 요인을 규명합니다.#Review#Knowledge Distillation#On-Policy Learning#Off-Policy Learning#KL Divergence#Large Language Models#Rollout Policy#Strong-to-Weak Distillation2026년 10월 1일댓글 수 로딩 중