[논문리뷰] Revisiting Lossy Verification in Speculative Decoding: Mechanisms, Trade-offs, and Failure Modes본 논문은 기존의 Lossy Verification 방법론들이 실제 추론 시 성능 저하를 일으키는 메커니즘을 규명하고, 이들이 제안하는 속도 향상의 실질적인 trade-off를 분석한다.#Review#Speculative Decoding#Lossy Verification#Truncation Sampling#Collaborative Decoding#Inference Acceleration#Large Language Models2026년 7월 30일댓글 수 로딩 중
[논문리뷰] Distilling Long-CoT Reasoning through Collaborative Step-wise Multi-Teacher Decoding본 논문은 대규모 Long-CoT 모델의 높은 추론 비용을 해결하기 위한 효율적인 reasoning distillation 프레임워크를 제안합니다.#Review#Reasoning Distillation#Collaborative Decoding#Long-CoT#Predictive Perplexity#Multi-Teacher#Beam Search#Step-wise Synthesis2026년 5월 17일댓글 수 로딩 중
[논문리뷰] RelayLLM: Efficient Reasoning via Collaborative Decoding본 논문은 복잡한 추론 작업에서 대규모 언어 모델(LLM) 의 높은 연산 비용과 지연 시간 문제를 해결하면서, 소규모 언어 모델(SLM) 의 제한된 추론 능력을 보완하는 효율적인 방법을 제안합니다.#Review#LLM#SLM#Collaborative Decoding#Token-level Intervention#Reinforcement Learning#GRPO#Efficient Reasoning#Resource Efficiency2026년 1월 8일댓글 수 로딩 중