[논문리뷰] Channel Selection for Mixture-of-Experts Decoding Needs No Calibration DataMixture-of-Experts (MoE) 모델은 small batch size에서의 interactive decoding 시 routed-expert weights를 메모리에서 로드하는 과정에서 병목 현상을 겪습니다.#Review#Mixture-of-Experts#Channel Selection#Calibration-free#Top-kk#Low-rank recovery#Sparse Decoding#LLM Inference#Model Acceleration2026년 10월 27일댓글 수 로딩 중
[논문리뷰] Rethinking Video Storage for AI Training: Breaking Cross-Frame Dependencies for Efficient Random Access대규모 AI 학습은 비디오 데이터셋에서 무작위적인 시공간 샘플링을 반복적으로 수행하는데, 기존 비디오 저장소는 순차적 재생에 최적화되어 있어 학습 시 Decode Amplification 문제를 야기합니다 .#Review#Video Storage#AI Training#Sparse Decoding#Random Access#Decode Amplification#Dependency-Decoupled Random Access2026년 10월 26일댓글 수 로딩 중
[논문리뷰] Fathom: Per-Query Read Depth for Sparse Decoding over Offloaded KV Caches본 연구는 고성능 LLM inference 환경에서 KV Cache의 방대한 메모리 점유와 이에 따른 Latency 증가 문제를 해결하기 위해 Fathom을 제안합니다.#Review#KV Cache#Sparse Decoding#Offloading#Memory Management#Latency Optimization#LLM Inference2026년 9월 16일댓글 수 로딩 중