[논문리뷰] Library of Layers (LoL): Adaptively Ordering Transformer Layers at Runtime본 논문은 기존 Transformer 모델이 모든 입력에 대해 고정된 층 순서(fixed layer ordering)를 강제함으로써 발생하는 계산 효율성 및 유연성 문제를 해결하기 위해 Library of Layers (LoL)를 제안한다.#Review#Library of Layers#Transformer#Dynamic Inference#Adaptive Routing#Strided Window Attention#Parameter Reuse#Model Sparsity2026년 11월 2일댓글 수 로딩 중
[논문리뷰] Skip a Layer or Loop It? Learning Program-of-Layers in LLMs본 논문은 모든 입력에 대해 고정된 depth와 순서로 수행되는 기존 LLM의 정적 추론 방식이 비효율적이며, 모델의 잠재적 추론 능력을 충분히 활용하지 못한다는 점을 지적합니다 .#Review#Large Language Models#Dynamic Inference#Program-of-Layers#Test-time Scaling#Layer Skipping#Layer Recurrence#Computational Efficiency2026년 6월 14일댓글 수 로딩 중
[논문리뷰] Post-Trained MoE Can Skip Half Experts via Self-Distillation기존의 Dynamic MoE 연구들은 주로 모델을 밑바닥부터 재학습(from scratch)하거나 특정 작업에만 국한된 적응 방식을 취해왔습니다. 그러나 실제 현업에서는 이미 사전 학습 및 후속 학습(SFT, RL 등)이 완료된 Post-Trained MoE 모델을 활용하는 경우가 대부분입니다.#Review#Mixture-of-Experts#Dynamic Inference#Self-Distillation#Zero-Expert Injection#Large Language Models#Model Adaptation2026년 5월 18일댓글 수 로딩 중
[논문리뷰] Mixture of Horizons in Action Chunking본 논문은 Vision-Language-Action (VLA) 모델 에서 고정된 액션 청크 길이(horizon) 가 유발하는 근본적인 한계점을 해결하고자 합니다.#Review#Vision-Language-Action Models#Action Chunking#Robotic Manipulation#Multi-horizon Planning#Transformer Architecture#Gated Fusion#Dynamic Inference2025년 12월 2일댓글 수 로딩 중