[논문리뷰] Representation-Space MMD for Diffusion Language Models기존 Diffusion Language Models (DLMs)는 노이즈 입력을 정제하여 텍스트를 생성하지만, conditional estimates가 반드시 고품질 샘플을 적은 스텝으로 생성하지는 못하는 한계가 있다.Diffusion distillation과 같은 기존 방법들은 샘플링 효율성을 개선했으나, teacher-derived targets나 jointly trained auxiliary models이 필요하다는…#Review#Diffusion Language Models (DLMs)#Maximum Mean Discrepancy (MMD)#Representation Space#Policy Gradients#Self-conditioning#Generative Perplexity#Accuracy-Computation Trade-off2026년 10월 5일댓글 수 로딩 중
[논문리뷰] The Best of N Worlds: Aligning Reinforcement Learning with Best-of-N Sampling via max@k Optimisation본 논문은 Large Language Models (LLMs)의 강화 학습(RL) 미세 조정 시 Best-of-N (BoN) 샘플링 성능이 저하되는 문제를 해결하고자 합니다.#Review#Reinforcement Learning#Large Language Models#Best-of-N Sampling#Max@k Optimization#Policy Gradients#Off-policy Learning#Code Generation2025년 10월 28일댓글 수 로딩 중
[논문리뷰] Harnessing Uncertainty: Entropy-Modulated Policy Gradients for Long-Horizon LLM Agents본 논문은 장기 시퀀스(long-horizon) LLM 에이전트 태스크에서 희소한 보상(sparse rewards) 으로 인해 발생하는 신용 할당(credit assignment) 문제 와 정책 경사(policy gradient)의 비효율적인 업데이트 문제를 해결하는 것을 목표로 합니다.#Review#LLM Agents#Reinforcement Learning#Policy Gradients#Entropy Modulation#Credit Assignment#Uncertainty#Long-Horizon Tasks#Self-Calibrating Gradient Scaling2025년 9월 12일댓글 수 로딩 중