[논문리뷰] Complex KDA: Understanding and Enhancing the Expressivity of Kimi Delta AttentionLinear RNN은 시퀀스 길이에 선형적으로 확장되는 효율적인 시퀀스 모델링이 가능하지만, 낮은 Rank correction을 포함하는 선형 업데이트로 인해 Expressivity가 제한된다.#Review#Complex KDA#Kimi Delta Attention#Linear RNNs#Expressivity#State Tracking#Rotation#Diagonal-plus-rank-one#Language Modeling2026년 9월 21일댓글 수 로딩 중