[sglang] AMD MI355X에서 GLM-5.2 성능 극대화하기: 왜 다시 HIP Top-K인가?SGLang이 AMD MI355X 환경에서 GLM-5.2 모델의 P90 지연시간을 10% 개선하기 위해 Top-K 구현체를 최적화한 사례를 분석합니다.#AMD#ROCm#MI355X#SGLang#Top-K#Optimization#LLM2026년 9월 18일댓글 수 로딩 중
[sglang] [AMD MI355X] DeepSeek-V4 최적화: FP8 Quantization의 불필요한 Copy 제거하기AMD MI355X 환경에서 FP8 Linear 레이어의 Scale Relayout Copy를 제거하여 최대 2%의 성능 향상을 끌어낸 최적화 사례를 분석합니다.#AMD#MI355X#DeepSeek-V4#FP8#Quantization#Performance-Optimization2026년 8월 19일댓글 수 로딩 중