[논문리뷰] Sparse Delta Memory: Scaling the State of Linear RNNs through Sparsity본 논문은 Linear RNN 계열 모델들이 긴 문맥을 처리할 때 겪는 메모리 병목 현상을 해결하고자 합니다.#Review#Linear RNNs#Sparse Delta Memory#Product Key Memory#Long-context Retrieval#IsoFLOP#State Scaling2026년 7월 8일댓글 수 로딩 중
[논문리뷰] Fast-weight Product Key Memory본 논문은 최신 언어 모델의 시퀀스 모델링 레이어에서 저장 용량과 계산 효율성 사이의 근본적인 트레이드오프를 해결하는 것을 목표로 합니다.#Review#Fast-weight Memory#Product Key Memory#Episodic Memory#Language Models#Long-Context Modeling#Memory Augmented Networks#Continual Learning2026년 1월 4일댓글 수 로딩 중