[sglang] SGLang, FlashInfer의 CuTe DSL 백엔드 도입으로 NVFP4 양자화 성능 극대화

2026년 7월 13일수정: 2026년 7월 13일

PR 링크: sgl-project/sglang#28220 상태: Merged | 변경: +3 / -5

들어가며

대규모 언어 모델(LLM)의 추론 성능을 높이기 위한 최적화는 끊임없이 이루어지고 있습니다. 특히 모델의 가중치를 더 낮은 정밀도로 표현하는 양자화(Quantization) 기술은 메모리 사용량을 줄이고 연산 속도를 향상시키는 데 핵심적인 역할을 합니다. NVIDIA의 FP4(4-bit Floating Point) 양자화는 높은 압축률을 제공하지만, 구현 방식에 따라 성능 차이가 발생할 수 있습니다.

이번 SGLang의 Pull Request(PR)는 FlashInfer 라이브러리의 새로운 CuTe DSL 백엔드를 NVFP4 양자화에 적용하여, 기존 CUDA 백엔드 대비 상당한 성능 향상을 목표로 합니다. 이 PR은 FlashInfer의 NVFP4 양자화 기능이 더욱 성숙해짐에 따라, SGLang 통합 지점을 업데이트하여 최신 성능 이점을 활용하도록 합니다. 특히 per-token NVFP4 양자화 및 NVFP4 4-bit quantization의 온라인 로딩 시 변환 과정에서 CuTe DSL 백엔드를 명시적으로 사용하도록 변경되었습니다.

코드 변경사항 분석

이번 PR의 핵심은 FlashInfer 라이브러리의 양자화 함수 호출 시 backend 인자를 명시적으로 "cute-dsl"로 설정하는 것입니다. 이는 기존에 기본값("cuda")을 사용하거나 명시적으로 "cuda"를 지정했던 부분을 변경하여, 최신 CuTe DSL 백엔드의 성능을 활용하도록 합니다.

1. `python/sglang/srt/layers/moe/moe_runner/flashinfer_trtllm.py`

이 파일은 Mixture-of-Experts (MoE) 모델에서 FlashInfer를 사용하는 부분을 담당합니다. 특히 per-token activation quantization 과정에서 NVFP4 양자화가 사용될 때, flashinfer.nvfp4_quantize 함수 호출 시 backend 인자가 수정되었습니다.

Before:

            sfLayout=SfLayout.layout_linear,
            per_token_activation=True,

After:

            sfLayout=SfLayout.layout_linear,
            per_token_activation=True,
            backend="cute-dsl",

기존 코드에서는 backend 인자가 명시되지 않아 FlashInfer의 기본 백엔드(주로 CUDA)를 사용했을 가능성이 높습니다. 이를 "cute-dsl"로 명시함으로써, CuTe DSL 백엔드의 최적화된 NVFP4 양자화 루틴을 사용하도록 강제합니다. 이는 특히 per-token activation quantization 시 성능 향상을 기대할 수 있습니다.

2. `python/sglang/srt/layers/quantization/nvfp4_online.py`

이 파일은 모델 로딩 시 NVFP4 양자화 가중치를 온라인으로 변환하는 로직을 다룹니다. --quantization nvfp4_online 옵션 사용 시, _quantize_weight_nvfp4 함수 내에서 flashinfer.nvfp4_quantize를 호출하는 부분의 backend 인자가 변경되었습니다.

Before:

            backend="cuda",

After:

            backend="cute-dsl",

이 변경 역시 모델 가중치의 온라인 NVFP4 양자화 변환 시 CuTe DSL 백엔드를 사용하도록 하여, 해당 과정의 속도를 개선합니다. 이는 모델 로딩 시간을 단축시키는 효과를 가져올 수 있습니다.

3. `python/sglang/srt/model_loader/loader.py`

모델 로딩 시 환경 변수를 임시로 설정하는 부분입니다. NVFP4 온라인 양자화(is_nvfp4_online) 시, FP4 양자화 관련 연산의 빠른 수학(fast math) 옵션을 비활성화하는 환경 변수 설정이 있었습니다.

Before:

            with temp_set_env(
                TRTLLM_DISABLE_FP4_QUANT_FAST_MATH="1",
                FLASHINFER_DISABLE_FP4_QUANT_FAST_MATH="1",
            ):

After:

            with temp_set_env(FLASHINFER_DISABLE_FP4_QUANT_FAST_MATH="1"):

기존에는 TRTLLM_DISABLE_FP4_QUANT_FAST_MATH와 FLASHINFER_DISABLE_FP4_QUANT_FAST_MATH 두 가지 환경 변수를 모두 설정했습니다. 하지만 이번 PR에서는 TRTLLM_DISABLE_FP4_QUANT_FAST_MATH 설정이 제거되었습니다. 이는 CuTe DSL 백엔드 도입과 관련하여, 해당 환경 변수가 더 이상 필요 없거나, 혹은 CuTe DSL 백엔드에서는 다른 방식으로 fast math 옵션을 제어하기 때문일 수 있습니다. PR 설명에 따르면, 이는 FlashInfer Python/CuTe DSL 환경 변수와 일치시키기 위한 조치로 보입니다. FLASHINFER_DISABLE_FP4_QUANT_FAST_MATH=1은 CuTe DSL 백엔드에서 정확도를 위해 fast math를 비활성화하는 데 사용됩니다.

왜 이게 좋은가?

이 PR의 가장 큰 장점은 성능 향상입니다. FlashInfer의 CuTe DSL 백엔드는 NVIDIA GPU 아키텍처에 더욱 특화된 최적화를 제공하며, 특히 FP4와 같은 저정밀도 양자화 연산에서 상당한 속도 개선을 보여줍니다.

PR에 첨부된 FlashInfer 벤치마크 결과는 이를 명확히 보여줍니다:

Per-token activation quantization의 경우, CuTe DSL 백엔드는 CUDA 백엔드 대비 최대 3.00배 (no fast math) 에서 4.17배 (fast math enabled)까지 더 빠른 성능을 보였습니다.
Pure per-token NVFP4 (no 4over6) 모드에서도 CuTe DSL은 CUDA 대비 2.24배의 기하 평균 속도 향상을 달성했습니다.

이러한 성능 향상은 LLM 추론 시 응답 지연 시간을 줄이고, 더 많은 요청을 동시에 처리할 수 있게 하여 전반적인 시스템 처리량을 증가시키는 데 직접적으로 기여합니다. 특히 실시간 상호작용이 중요한 애플리케이션에서 큰 이점을 제공할 것입니다.

일반적인 교훈:

최신 라이브러리 기능 활용: SGLang은 LLM 추론 최적화를 위해 FlashInfer와 같은 외부 라이브러리를 적극적으로 통합합니다. 라이브러리의 새로운 기능(여기서는 CuTe DSL 백엔드)이 안정화되면 이를 빠르게 통합하여 사용자에게 최신 성능 이점을 제공하는 것이 중요합니다.
백엔드 명시화의 중요성: 성능에 민감한 연산의 경우, 기본값에 의존하기보다 사용할 백엔드를 명시적으로 지정하는 것이 좋습니다. 이를 통해 의도한 최적화 경로를 확실히 사용하고 예기치 않은 성능 저하를 방지할 수 있습니다.
양자화 기술의 발전: FP4와 같은 저정밀도 양자화는 LLM의 효율성을 높이는 핵심 기술입니다. 이러한 양자화 기법의 구현 방식(예: CUDA vs CuTe DSL 백엔드)에 따른 성능 차이를 이해하고 최적의 구현을 선택하는 것이 중요합니다.

리뷰 댓글에서 swizzle layout 사용 여부에 대한 질문이 있었으나, 이는 해당 PR의 직접적인 변경 사항과는 거리가 있어 보입니다. 다만, FlashInfer의 다양한 최적화 옵션(layout, fast math 등)을 종합적으로 고려하여 최고의 성능을 달성하는 것이 중요함을 시사합니다.