[논문리뷰] Denser neq Better: Limits of On-Policy Self-Distillation for Continual Post-Training본 연구는 Continual Post-Training 과정에서 온-폴리시(On-policy) 학습이 망각을 완화한다는 기존의 낙관적 견해를 비판적으로 재검토하고, 특히 SDPO와 같은 토큰 수준의 밀집 증류 기법이 오히려 모델의 성능 저하와 붕괴를 초래할 수 있음을 입증합니다.#Review#Continual Post-Training#Self-Distillation#On-Policy Reinforcement Learning#Catastrophic Forgetting#Policy Optimization#Token-Level Supervision2026년 7월 2일댓글 수 로딩 중