[sglang] SGLang 캐시 시뮬레이터의 병목 해결: 직렬 전송에서 동시성 전송으로의 최적화SGLang의 캐시 시뮬레이터 ingest tee를 직렬 방식에서 동시성(fan-out) 방식으로 개선하여 처리량 병목을 해결했습니다.#SGLang#Rust#Tokio#Performance#Concurrency2026년 8월 8일댓글 수 로딩 중