[sglang] Apple Silicon LLM 성능 향상: 슬라이딩 윈도우 KV 캐싱 및 인-그래프 샘플링 도입Apple Silicon 환경에서 LLM의 메모리 사용량과 추론 속도를 개선하는 두 가지 주요 최적화 기법을 소개합니다.#MLX#Apple Silicon#LLM#최적화#성능#KV 캐싱#샘플링2026년 8월 10일댓글 수 로딩 중