[논문리뷰] What Makes a Good Unmasking Policy? A Controlled Study of Learned Unmasking in Diffusion Language Models본 논문은 Masked Diffusion Language Models에서 효율적인 생성 속도를 달성하기 위한 Unmasking Policy의 설계 기준을 명확히 규명하고자 합니다.#Review#Masked Diffusion Language Models#Unmasking Policy#Trajectory Contraction#Efficiency#Throughput#NFE#Distillation2026년 10월 22일댓글 수 로딩 중
[논문리뷰] Pivot-SD: Efficient Self-Distillation for Masked Diffusion Language Models본 논문은 Masked Diffusion Language Models의 학습 시 어떤 토큰에 가중치를 두어야 하는지에 대한 credit assignment 문제를 해결하고자 합니다.#Review#Masked Diffusion Language Models#Self-Distillation#Information Gain#Credit Assignment#Unlikelihood Training#Denoising2026년 10월 4일댓글 수 로딩 중
[논문리뷰] Unmask the State: When Does State Adaptation Matter for Masked Diffusion Language Models본 논문은 MDM의 추론 과정에서 고정된 unmasking 전략이 모든 denoising 상태에 대해 최적인지 의문을 제기하며, 상태에 따른 전략 변화(State Adaptation)의 필요성을 탐구한다 .#Review#Masked Diffusion Language Models#State Adaptation#Inference Policy#Selective Adaptation#Strategy Reversals#Unmasking Strategies2026년 9월 30일댓글 수 로딩 중
[논문리뷰] Who Should Lead Decoding Now? Tracking Reliable Trajectories for Ensembling Masked Diffusion Language Models본 논문은 다양한 능력을 갖춘 여러 MDLM의 지식을 디코딩 단계에서 어떻게 효과적으로 융합할 것인가에 대한 문제를 다룹니다. 기존의 Autoregressive 모델용 앙상블 기법은 순차적인 생성 방식에 의존하므로, 비순차적이고 유연한 디코딩 방식을 가진 MDLM에는 직접 적용하기 어렵습니다.#Review#Masked Diffusion Language Models#Ensembling#Decoding Dynamics#Trajectory-based Iterative Ensembling#Knowledge Fusion#Confidence Dynamics2026년 6월 15일댓글 수 로딩 중
[논문리뷰] Diffutron: A Masked Diffusion Language Model for Turkish LanguageAutoregressive (AR) Transformers는 현재 Large Language Models (LLMs) 분야에서 지배적이지만, 텍스트를 토큰별로 순차적으로 생성하는 본질적인 특성으로 인해 Generation Speed와 고려할 수 있는 Context에 한계가 있다.#Review#Masked Diffusion Language Models#Turkish NLP#Non-Autoregressive Generation#LoRA#Instruction Tuning#Morphologically Rich Languages#Parameter Efficiency2026년 3월 29일댓글 수 로딩 중
[논문리뷰] Masks Can Be Distracting: On Context Comprehension in Diffusion Language Models본 연구는 Masked Diffusion Language Models (MDLMs) 의 컨텍스트 이해 능력을 체계적으로 조사하고, locality bias 및 마스크 토큰 사용이 성능에 미치는 영향을 파악하는 것을 목표로 합니다.#Review#Diffusion Language Models#Masked Diffusion Language Models#Context Comprehension#Locality Bias#Mask Tokens#Fine-tuning#Mask-agnostic Loss#Long-context Processing2025년 12월 2일댓글 수 로딩 중