[논문리뷰] Towards Looped Models Done Right, Part I: Topology, Input Injection, Recurrent-State Design본 연구는 기존 Looped Models의 설계 요소들이 혼재되어 있어, 어떤 아키텍처적 선택이 실제 성능 향상에 기여하는지 불분명하다는 문제를 해결한다.#Review#Looped Models#Transformer#Mixture-of-Experts#Recurrence#Input Injection#Sandwich Architecture#Parameter Scaling2026년 10월 18일댓글 수 로딩 중
[논문리뷰] Recurrent Looped Transformer본 논문은 기존 Transformer가 고정된 깊이의 층을 사용함으로써 시퀀스 길이에 따른 상태 추적(State Tracking)에 한계가 있다는 문제를 해결합니다.#Review#Recurrent Looped Transformer#State Tracking#Length Generalization#Recurrence#Causal Encoder#Decoder2026년 10월 7일댓글 수 로딩 중
[논문리뷰] Scaling Laws for Looped Mixture of Experts본 논문은 Recurrence(Looped)와 Sparsity(MoE)를 결합한 모델의 공동 스케일링 특성을 규명하여 더욱 효율적인 모델 설계 가이드를 제공하고자 합니다.#Review#Looped Transformers#Mixture-of-Experts#Scaling Laws#Recurrence#Sparsity#Parameter Efficiency#Compute-Optimal2026년 9월 30일댓글 수 로딩 중
[논문리뷰] Beyond Memorization: Extending Reasoning Depth with Recurrence, Memory and Test-Time Compute Scaling본 연구는 대규모 언어 모델(LLM)의 다단계 추론 능력 을 향상시키는 것을 목표로 합니다.#Review#Reasoning Depth#Cellular Automata#Transformer Architectures#Recurrence#Adaptive Computation Time#Chain-of-Thought#Reinforcement Learning#Generalization2025년 8월 26일댓글 수 로딩 중