[논문리뷰] Gemma 4 Technical Report본 논문은 최신 LLM 생태계에서 요구되는 강력한 multimodal 이해도, 복잡한 추론 능력, 그리고 컴퓨팅 효율성을 동시에 달성하기 위해 Gemma 4 모델 제품군을 제안합니다.#Review#Multimodal#Mixture-of-Experts#Reasoning Trace#Speculative Decoding#Quantization-Aware Training#Long-context#Encoder-free2026년 7월 7일댓글 수 로딩 중
[논문리뷰] Compress-Distill: Reasoning Trace Compression for Efficient Knowledge Distillation본 논문은 최신 Reasoning 모델들이 생성하는 긴 Chain-of-Thought 추론 과정이 Distillation 시 비용을 크게 증가시키고, Student 모델이 지나치게 장황한 답변을 생성하도록 유도한다는 점에 주목합니다.#Review#Knowledge Distillation#Chain-of-Thought#Reasoning Trace#Model Compression#Supervised Fine-tuning#Inference Efficiency#Large Language Models2026년 6월 7일댓글 수 로딩 중
[논문리뷰] Diagnosing Harmful Continuation in Answer-Correct Long-CoT Training Traces본 연구는 답변이 정확한 Long-CoT 데이터라도 그 내부의 추론 궤적에 따라 모델 학습의 유효성이 크게 달라질 수 있다는 점을 문제로 제기합니다. 기존 연구들은 데이터 선택이나 단순한 길이 절삭(truncation)에 의존하여 추론 단계의 품질을 근본적으로 규명하지 못했습니다.#Review#Long-CoT#Supervised Fine-Tuning#Harmful Continuation#Uncertainty–Geometry Mismatch#Reasoning Trace#Boundary Proxy2026년 6월 2일댓글 수 로딩 중