[논문리뷰] Safin-1: Safety from Within through Memory-Native State Evolution본 논문은 장기적인 상호작용과 복잡한 작업을 수행하는 모델에서 안전성과 기억 유지가 분리되어 있는 기존 모델의 구조적 한계를 해결하고자 합니다.#Review#Foundation Models#Long-horizon Intelligence#Memory-Native State Evolution#Safety from Within#Recurrent Neural Networks#State-Space Models#MARCH2026년 9월 1일댓글 수 로딩 중
[논문리뷰] WriteSAE: Sparse Autoencoders for Recurrent State본 논문은 기존의 Residual SAE가 해결하지 못했던 state-space 및 hybrid recurrent language model의 matrix cache write 문제를 다룬다.#Review#Sparse Autoencoders#State-Space Models#Recurrent Neural Networks#Mechanistic Interpretability#Cache-Patching#WriteSAE2026년 5월 13일댓글 수 로딩 중
[논문리뷰] Rethinking State Tracking in Recurrent Models Through Error Control Dynamics본 논문은 recurrent 아키텍처의 상태 추적(state tracking) 능력이 단순히 이론적 표현력(expressivity)만으로 결정되지 않으며, hidden-state의 drift를 제어하는 에러 제어(error control) 역학에 의해 좌우된다는 점을 규명합니다.#Review#State Tracking#Recurrent Models#Error Control#Affine Recurrences#State-Space Models#Symbolic Dynamics2026년 5월 10일댓글 수 로딩 중
[논문리뷰] Physics of Language Models: Part 4.1, Architecture Design and the Magic of Canon Layers언어 모델 아키텍처 간의 성능 차이를, 특히 학술 규모의 사전 훈련에서 발생하는 높은 노이즈와 비용 문제 없이 신뢰성 있게 평가하고 이해하는 것을 목표로 합니다.#Review#Language Models#Transformer Architecture#Canon Layers#Synthetic Pretraining#Reasoning Depth#Linear Attention#State-Space Models#NoPE2025년 12월 21일댓글 수 로딩 중