[논문리뷰] Precision on Demand: Escalating Weight Bits at Uncertain Decoding Steps in a Small Local Model본 논문은 local decoding에서 전체 generation에 하나의 weight precision을 고정하는 대신, 불확실한 step에만 high precision을 할당하는 per-token 정책이 같은 byte 예산에서 더 나은 품질을 주는지 검증합니다.#Review#Nested Quantization#Uncertainty Gating#Entropy#Logit Margin#Speculative Decoding#Memory-Bound Decoding#Weight Bytes#GSM8K2026년 11월 11일댓글 수 로딩 중