[논문리뷰] On the SPOT: Enhancing Speculative Decoding for Diffusion Language Models via Commit-Order PredictionDiffusion Language Models (DLMs)는 병렬 텍스트 생성이라는 새로운 가능성을 제시하지만, 실제 운용 환경에서는 속도와 품질 사이의 근본적인 트레이드오프 문제에 직면한다.#Review#Speculative Decoding#Diffusion Language Models (DLMs)#Commit-Order Prediction#Coupled-Noise Verification#Lossless Acceleration#Throughput#Dynamic Threshold Decoding2026년 10월 27일댓글 수 로딩 중
[논문리뷰] Unlocking Lossless Speedups in LLMs via Discrete Diffusion본 논문은 Autoregressive (AR) Large Language Models (LLMs)의 핵심 bottle-neck인 느린 순차적 토큰 생성을 해결하고자 한다. 기존 AR LLMs는 한 번에 하나의 토큰만 생성하므로 추론 시 높은 Latency를 유발하고 GPU utilization을 저하시킨다.#Review#Diffusion-augmented LLMs#Discrete Diffusion#Lossless Acceleration#Ψ-Spec Sampler#Speculative Decoding#Throughput#Tokens-Per-Forward-pass (TPF)#LoRA2026년 9월 7일댓글 수 로딩 중