[논문리뷰] KVpop -- Key-Value Cache Compression with Predictive Online PruningLLM의 실시간 추론에서 KV cache는 문맥 길이에 선형적으로 증가하여 long-context inference의 병목 현상을 유발합니다.#Review#KV Cache Compression#Large Language Models#Sparse Attention#Predictive Pruning#Inference Efficiency#Memory Optimization2026년 7월 6일댓글 수 로딩 중