[논문리뷰] Rethinking Relative Policy Differences Transfer of On-Policy Distillation본 논문은 기존 OPD가 티처 모델의 절대적인 성능 우위에 지나치게 의존하여, 티처와 학생 모델의 역량 격차가 작을 경우 성능 향상이 제한되거나 오히려 역효과가 발생한다는 문제를 해결하고자 한다.#Review#On-Policy Distillation#Relative Policy Transfer#Implicit Reward#Policy Optimization#Language Model Post-training2026년 10월 11일댓글 수 로딩 중
[논문리뷰] Gains and Collapse in On-Policy Distillation:A Reinforcement Learning Perspective본 논문은 OPD가 널리 사용됨에도 불구하고, 모델의 성능 향상과 동시에 발생하는 과도한 생성 길이 및 반복적 출력과 같은 'collapse' 현상의 원인을 규명하고자 합니다.#Review#On-policy Distillation#Reinforcement Learning#Reward Hacking#Policy Gradient#Language Model Post-training#Sampling Efficiency#Implicit Reward2026년 10월 7일댓글 수 로딩 중
[논문리뷰] Weak-to-Strong Generalization via Direct On-Policy Distillation본 논문은 대규모 언어 모델의 post-training 단계에서 발생하는 RLVR(Reinforcement Learning with Verifiable Rewards)의 높은 컴퓨팅 비용 문제를 해결하고자 합니다.#Review#Weak-to-Strong Generalization#Reinforcement Learning#On-Policy Distillation#Policy Shift#Implicit Reward#Post-Training#Large Language Models2026년 7월 13일댓글 수 로딩 중