[논문리뷰] One Model to Loop Them All: Elastic Latent Recurrence for Language Models본 연구는 고정된 크기의 체크포인트로 다양한 추론 컴퓨팅 자원을 활용하고자 하는 Latent Recurrent 모델들이 직면한 One-loop tax 문제를 해결합니다.#Review#Elastic Latent Recurrence#Large Language Models#Recurrent Depth#Inference Compute#Mixed-Depth Training#MoE2026년 10월 11일댓글 수 로딩 중
[논문리뷰] Looping Beyond Twice: A Scalable Recipe for Looped Mixture-of-Experts본 논문은 Looped Mixture-of-Experts(MoE) 모델이 왜 기존 연구들에서 2개 루프 이상으로 확장하기 어려운지 그 근본 원인을 진단하고 해결책을 제시합니다. 기존의 Looped MoE 접근 방식은 추가적인 연산량 대비 성능 향상이 미미하거나 오히려 성능이 하락하는 문제를 겪어왔습니다.#Review#Looped Transformers#Mixture-of-Experts#Recurrent Depth#Computational Efficiency#Scaling Laws#Expert Selection Collapse#Curse of Depth2026년 10월 4일댓글 수 로딩 중
[논문리뷰] Gated Recurrent Transformers: Expressive Depth through Recurrent Modulation본 논문은 대규모 Transformer 모델의 파라미터 수 증가가 메모리 및 학습 비용의 병목으로 이어지는 문제를 해결하고자 합니다. 기존의 표준 Transformer는 깊이를 늘릴 때마다 새로운 가중치 텐서를 생성하여 모델의 파라미터 footprint를 기하급수적으로 증가시킵니다.#Review#Transformer#Recurrent Depth#Weight Sharing#Gated Recurrent Transformer#Memory Efficiency#Model Scaling#Adaptive Computation2026년 8월 26일댓글 수 로딩 중
[논문리뷰] Looped Language Models Improve Compositional Tool Calling본 논문은 Looped Language Models가 에이전트 환경의 Compositional Tool Calling에서 가질 수 있는 잠재적인 성능 향상을 규명하고자 합니다. 기존의 LLM 기반 에이전트 시스템은 복잡한 API 호출 시 다단계 계획 수립과 종속성 보존에 어려움을 겪는 경우가 많습니다.#Review#Looped Language Models#Compositional Tool Calling#Recurrent Depth#Adaptive Inference#Agentic Systems#Latent Computation2026년 8월 19일댓글 수 로딩 중
[논문리뷰] DeepLoop: Depth Scaling for Looped Transformers본 논문은 Looped Transformer 환경에서 기존의 DeepNorm 스케일링 규칙이 최적화 안정성을 보장하지 못하는 문제를 해결합니다.#Review#Looped Transformer#Depth Scaling#DeepNorm#Residual Scaling#Parameter Tying#Recurrent Depth2026년 7월 16일댓글 수 로딩 중