[SGLang] Zero-Overhead CPU Scheduler: 배치 스케줄링의 핵심 설계SGLang의 Zero-Overhead CPU Scheduler를 분석한다. 기존 GPU-bound 스케줄러 대비 CPU에서의 오버헤드 없는 배치 결정, 메인 루프 구조, Prefill/Decode 분리를 코드와 함께 살펴본다.#sglang#Scheduler#Zero-Overhead#Batch Scheduling2026년 4월 10일댓글 수 로딩 중