[논문리뷰] P^2-MOPD: Accelerating Multi-Teacher On-Policy Distillation via Parameter Priors이 논문이 다루는 문제는 두 가지입니다. MOPD는 학습 비용이 크고 domain 간 recovery가 불균형하며, Task Arithmetic은 output이 supervision을 받지 않아 품질이 보장되지 않습니다.#Review#On-Policy Distillation#Multi-Teacher Distillation#Model Merging#Task Arithmetic#Task Vector#Parameter Priors#Large Language Models2026년 11월 8일댓글 수 로딩 중