[논문리뷰] STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State Quantization본 논문은 Linear Attention 모델에서 recurrent state가 유발하는 메모리 병목 현상을 해결하고자 한다.#Review#Linear Attention#Recurrent State#Post-Training Quantization#Delta-Rule#Memory Bottleneck#Mixed-Precision#Bit Allocation2026년 10월 7일댓글 수 로딩 중
[논문리뷰] SQ-format: A Unified Sparse-Quantized Hardware-friendly Data Format for LLMs대규모 언어 모델(LLMs)의 배포에 있어 저비트 양자화(low-bit quantization) 와 희소화(sparsification) 기술이 정확도와 효율성 사이에서 균형을 맞추기 어려운 문제를 해결하는 것이 목표입니다.#Review#LLM Quantization#Sparsification#Hardware Acceleration#Mixed-Precision#Post-Training Quantization#Data Format#GPU Optimization#AI Accelerator2025년 12월 7일댓글 수 로딩 중