[논문리뷰] KV4-RL: Unlocking Faster Asynchronous Rollouts for RLVR with INT4 KV Cache Quantization본 논문은 비동기 rollout이 Long-Tail 생성 중 유휴 시간을 줄여 RLVR의 효율성을 향상시키지만, 지속적인 concurrency가 Key-Value (KV) 캐시 처리를 더 적은 디코드 스텝으로 집중시켜 KV workload를 증가시키고 KV 연산을 새로운 Bottleneck으로 만든다고 지적합니다.#Review#Reinforcement Learning with Verifiable Rewards (RLVR)#Asynchronous Rollout#KV Cache Quantization#INT4#Selective Protection#Sampler Mismatch#Group Relative Policy Optimization (GRPO)2026년 10월 14일댓글 수 로딩 중
[논문리뷰] WUSH-KV: KV Cache Quantization with Data-Adaptive Transforms본 논문은 long-context 및 대규모 batch inference 환경에서 발생하는 KV cache의 메모리 및 대역폭 병목 문제를 해결하기 위해 WUSH-KV를 제안한다.#Review#KV Cache Quantization#Data-Adaptive Transforms#Grouped-Query Attention#WUSH Transform#Quantization Error#Large Language Models#Inference Efficiency2026년 9월 30일댓글 수 로딩 중
[논문리뷰] OScaR: The Occam's Razor for Extreme KV Cache Quantization in LLMs and Beyond본 논문은 장문 컨텍스트 추론 및 다중 모드 지능의 발전으로 인해 KV Cache가 추론의 지배적인 메모리 병목으로 부상한 문제를 해결합니다. 기존의 per-channel 양자화 기법은 Key 텐서의 채널별 이상치를 처리하는 데 효과적이나, 압축률이 극도로 높아질 경우 그 효용이 급격히 감소합니다.#Review#KV Cache Quantization#Token Norm Imbalance (TNI)#Omni-Scaled Canalized Rotation (OScaR)#Extreme Low-bit Quantization#Large Language Models (LLMs)#CUDA Kernel Optimization2026년 5월 20일댓글 수 로딩 중
[논문리뷰] LongLive-2.0: An NVFP4 Parallel Infrastructure for Long Video Generation본 논문은 긴 비디오 생성 시 발생하는 메모리 병목 현상과 낮은 연산 효율 문제를 해결하기 위해 시스템과 알고리즘이 통합된 인프라 LongLive-2.0을 제안한다.#Review#Long Video Generation#NVFP4#Sequence Parallelism#Autoregressive Diffusion#KV Cache Quantization#Balanced SP2026년 5월 18일댓글 수 로딩 중