[SGLang] Allocator: 토큰-KV 풀 할당 전략의 설계SGLang의 메모리 Allocator를 분석한다. 토큰을 KV 캐시 풀에 매핑하는 할당 전략, 연속/분산 할당 모드, 메모리 단편화 방지를 코드와 함께 살펴본다.#sglang#Allocator#Memory Allocation#KV Pool2026년 4월 10일댓글 수 로딩 중