[논문리뷰] Routing Should Pay for Itself: Sparse Supervision for Economical LLM Routing본 논문은 기존 LLM Routing 연구들이 배포 시점의 효율성만을 강조하고, 라우터 구축을 위해 필수적인 초기 Supervision Expenditure를 간과하고 있다는 문제점을 지적한다.#Review#LLM Routing#Sparse Supervision#Cost Efficiency#Break-even Analysis#Capability Estimation#Model Selection2026년 9월 29일댓글 수 로딩 중
[논문리뷰] 1% of Tokens Can Be Enough: On Gradient Estimation in On-Policy Distillation본 논문은 Sparse OPD에서 발생하는 기울기 추정의 신뢰성 문제를 해결하고자 합니다. 기존의 On-Policy Distillation(OPD) 방법론들은 학생 모델이 생성한 궤적의 모든 토큰에 대해 교사 감독을 적용하거나, 토큰의 '유용성(usefulness)'에 기반하여 중요한 토큰을 선별했습니다.#Review#On-Policy Distillation#Gradient Estimation#Information Geometry#Signal-to-Noise Ratio#Token Selection#Large Language Models#Sparse Supervision2026년 9월 21일댓글 수 로딩 중
[논문리뷰] Rethinking Critic Learning in PPO: Understanding and Mitigating Value Flattening본 논문은 대규모 언어 모델(LLM)의 PPO 학습 과정에서 critic이 겪는 Value Flattening 현상을 분석하고 이를 해결하고자 합니다.#Review#Proximal Policy Optimization#Reinforcement Learning#Large Language Models#Value Flattening#Sparse Supervision#Critic Learning2026년 9월 16일댓글 수 로딩 중
[논문리뷰] EndPrompt: Efficient Long-Context Extension via Terminal Anchoring본 논문은 LLM의 컨텍스트 윈도우 확장이 요구하는 막대한 계산 자원과 데이터 수집의 어려움을 해결하기 위해 EndPrompt를 제안합니다.#Review#Long-Context Extension#EndPrompt#Terminal Anchoring#Positional Interpolation#RoPE#Transformer#Sparse Supervision2026년 5월 18일댓글 수 로딩 중
[논문리뷰] Sci-CoE: Co-evolving Scientific Reasoning LLMs via Geometric Consensus with Sparse Supervision과학적 추론 태스크에서 대규모 언어 모델(LLM)의 취약한 성능을 개선하는 것을 목표로 합니다. 특히, 신뢰할 수 없는 솔루션 평가와 검증 전략의 다양성 부족 문제, 그리고 제한된 감독 환경에서의 자가 진화 프레임워크 개발이라는 과제를 해결하고자 합니다.#Review#LLM#Scientific Reasoning#Co-evolution#Reinforcement Learning#Sparse Supervision#Geometric Consensus#Self-Play#Verifier2026년 2월 12일댓글 수 로딩 중
[논문리뷰] VChain: Chain-of-Visual-Thought for Reasoning in Video Generation기존 비디오 생성 모델들이 복잡한 다이내믹스와 인과적으로 일관된 결과를 생성하는 데 어려움을 겪는 문제를 해결하는 것을 목표로 합니다. 특히, 시각적 상태 전이와 시간 경과에 따른 결과의 논리적 일관성 부족을 개선하기 위해 대규모 멀티모달 모델의 추론 능력을 비디오 생성에 통합하고자 합니다.#Review#Video Generation#Chain-of-Thought#Multimodal Models#Reasoning#Inference-Time Tuning#Sparse Supervision#Diffusion Models#Keyframe Generation2025년 10월 7일댓글 수 로딩 중