[논문리뷰] Factorization-Guided Training and Inference for Diffusion-Drafted Speculative DecodingSpeculative Decoding은 LLM Inference 가속화를 위한 효과적인 방법론으로 각광받고 있지만, 단순히 더 많은 Draft Proposal을 생성하거나 더 높은 Mean Accepted Tokens (MAT)를 달성하는 것만으로는 항상 최적의 Throughput으로 이어지지 않는다는 문제가 있습니다.#Review#Speculative Decoding#Diffusion Drafter#LLM Inference#Factorization-Guided Training#MAT-Latency Trade-off#Mixed-Horizon Training#Acceptance-Weighted Loss2026년 10월 19일댓글 수 로딩 중