[논문리뷰] Decoding Looped Transformers Better for (Almost) Free본 논문은 Looped Transformers가 내재적으로 보유한 '초기-최종 iteration 간의 weak-to-strong 예측 쌍'을 활용하지 못하고, 최종 결과물만을 사용하는 표준 디코딩 방식의 비효율성을 해결하고자 합니다.#Review#Looped Transformers#Contrastive Decoding#Inference Optimization#Recurrent States#FLOPs Reduction#LoopCD2026년 10월 1일댓글 수 로딩 중
[논문리뷰] Skip to the Good Part: Representation Structure & Inference-Time Layer Skipping in Diffusion vs. Autoregressive LLMs본 논문은 Autoregressive (AR) LLM과 Diffusion (dLLM)의 내부 표현 구조가 어떻게 다른지 체계적으로 분석하고, 이러한 차이를 활용하여 추론 시 레이어 스키핑(layer skipping) 을 통한 효율성 증대 가능성을 탐색합니다.#Review#Diffusion LLMs#Autoregressive LLMs#Representational Analysis#Layer Skipping#Inference Efficiency#Initialization Bias#FLOPs Reduction#Recency Bias2026년 3월 9일댓글 수 로딩 중