[sglang] SGLang Diffusion: 2-rank Ulysses를 위한 CUDA-IPC 기반 Zero-Staging All-to-All 최적화2-rank Ulysses 환경에서 NCCL 대신 CUDA-IPC를 사용하여 데이터 복사 오버헤드를 제거하고 전체 성능을 약 10% 향상시킨 최적화 사례.#SGLang#CUDA#NCCL#Ulysses#Performance2026년 7월 31일댓글 수 로딩 중
[논문리뷰] FVAttn: Adaptive Sparse Attention with Runtime Load Balancing for Video GenerationVideo Diffusion Transformers(Video DiTs)는 고해상도 및 장기 비디오 생성 시 발생하는 막대한 Attention 연산 비용이 추론의 주된 병목 현상으로 작용합니다.#Review#Video Diffusion Transformers#Adaptive Sparse Attention#Runtime Load Balancing#Ulysses#Sequence Parallelism#P2P Communication#Slack-Aware Sparse Augmentation2026년 7월 22일댓글 수 로딩 중