[논문리뷰] Rethinking Cross-Tokenizer On-Policy Distillation: From Alignment Coverage to Supervision Reliability본 논문은 서로 다른 토크나이저를 사용하는 LLM 간의 Cross-Tokenizer On-Policy Distillation에서 정렬 범위(Alignment Coverage)를 확장하는 것이 반드시 모델 성능 향상으로 이어지는지 의문을 제기한다.#Review#On-Policy Distillation#Cross-Tokenizer Distillation#Supervision Reliability#Strict Alignment#Language Model Training2026년 10월 6일댓글 수 로딩 중
[논문리뷰] Cross-Tokenizer LLM Distillation through a Byte-Level Interface본 논문은 LLM의 핵심적인 제약 사항인 Tokenizer 불일치 문제를 해결하기 위한 범용적인 Cross-Tokenizer Distillation (CTD) 기법을 제안합니다.#Review#Cross-Tokenizer Distillation#Byte-Level Interface#Knowledge Distillation#LLM#Vocabulary Mismatch2026년 4월 16일댓글 수 로딩 중