[논문리뷰] Smaller Models, Better Rejects: Preference Distillation Scaling본 논문은 Preference Distillation에서 거부 응답을 학생 모델 자신(Self)으로부터 생성하는 관행이 비효율적이라는 점을 지적합니다. 기존 방식은 학생 모델의 크기가 커질수록 거부 응답 생성 비용이 기하급수적으로 증가하는 Compute 문제를 야기합니다.#Review#Preference Distillation#DPO#Reject Construction#Inverse Data Design#Large Language Models#Scaling Study2026년 10월 1일댓글 수 로딩 중