[논문리뷰] TRACE: Rollout-Guided Quantization-Aware Training for FP4 Reinforcement Learning of MoE Language Models본 논문은 RL 기반 LLM 학습 시 발생하는 비용 문제를 해결하기 위해 도입된 FP4 rollout 기법이, 학습-추론 경로 간의 심각한 수치적 불일치로 인해 오히려 정책 불일치와 학습 불안정을 초래한다는 점을 지적합니다.#Review#Reinforcement Learning#MoE#FP4 Quantization#Quantization-Aware Training#Numerical Discrepancy#Rollout-Guided2026년 10월 6일댓글 수 로딩 중