[vllm] vLLM FlashInfer Allreduce 최적화: 단일 노드 성능 회복과 안정성 확보vLLM에서 FlashInfer Allreduce 백엔드 선택 로직을 개선하여 단일 노드 성능을 회복한 PR 분석.#vLLM#FlashInfer#Allreduce#성능 최적화#분산 학습#GPU2026년 10월 17일댓글 수 로딩 중
[sglang] SGLang Kimi K2.5/K2.7 멀티모달 인코더-DP 성능 최적화: 이미지 피처 전송 샤딩 및 배치 처리Kimi K2.5/K2.7 모델의 멀티모달 인코더-DP 모드에서 이미지 피처 전송 및 전처리 성능을 획기적으로 개선한 PR 분석.#SGLang#Kimi#멀티모달#성능 최적화#GPU#CUDA IPC#분산 학습#FlashAttention2026년 7월 16일댓글 수 로딩 중