[sglang] SGLang aiter 백엔드의 Sliding Window Attention(SWA) 최적화 및 안정성 개선aiter 백엔드에서 SWA KV 풀 해석 로직을 개선하고, paged-decode 시 잘못된 연산을 방지하는 가드를 추가하여 추론 정확도를 확보했습니다.#SGLang#aiter#ROCm#LLM#Optimization2026년 9월 11일댓글 수 로딩 중
[sglang] SGLang: ROCm 환경에서 RMSNorm 최적화 - Triton에서 aiter 커널로 전환SGLang에서 ROCm 환경의 RMSNorm 성능을 aiter 커널로 교체하여 30% 이상 개선했습니다.#SGLang#ROCm#RMSNorm#aiter#성능 최적화#HIP#GPU 프로그래밍2026년 5월 8일댓글 수 로딩 중