[sglang] SGLang HiCache에 AMD UMBP 기반 L3 스토리지 백엔드 도입AMD MI3xx 환경에서 HBM 부족 문제를 해결하기 위해 UMBP 기반의 계층형 DRAM/SSD 스토리지 백엔드를 HiCache에 통합하여 TTFT를 3.5배 개선했습니다.#SGLang#HiCache#AMD#UMBP#KV-Cache#LLM-Serving2026년 7월 1일댓글 수 로딩 중