[flashinfer] SM120 VSA 커널의 마지막 Partial Wave 패킹: 호스트 플래너만으로 평균 4.3% 가속Persistent 커널의 마지막 불완전 wave를 가상 CTA에 고르게 채워 tail effect를 줄인 호스트 플래너 최적화#FlashInfer#CUDA#Blackwell#Sparse Attention#Load Balancing#Scheduling2026년 11월 5일댓글 수 로딩 중
[flashinfer] 4-stage K/V ring에서 불필요해진 QK(t)→PV(t-1) 대기 제거: SM107 FP8 sparse MLA decode 최대 11% 가속2-stage ring용 순서 제약을 4-stage 커널에서 걷어내 QK·softmax·PV 직렬화를 해소한 사례#CUDA#Blackwell#FlashInfer#MLA#mbarrier#Pipeline2026년 11월 5일댓글 수 로딩 중
[flashinfer] Rubin(sm_107a)에서 DRAM 피크 95%까지: UMMA ReplaySSM u-cache flush 커널의 uGPU 로컬라이제이션과 6가지 튜닝Blackwell 커널이 Rubin에서 DRAM 52~57%에 그친 원인 6가지를 짚고 uGPU로 B200 대비 2.5배를 달성한 과정#CUDA#Rubin#GPU Kernel#FlashInfer#Green Context#Performance2026년 11월 5일댓글 수 로딩 중
[vllm] Rubin 텐서 코어로 LUT-B MoE 가중치를 직접 디코딩하기: MXFP8 활성화 기반 네이티브 커널과 에뮬레이션3-bit LUT 가중치를 텐서 코어가 직접 풀어내는 Rubin MoE 커널로 메모리를 56→16GiB 절감#vLLM#Quantization#MoE#CUDA#Rubin#MXFP82026년 11월 5일댓글 수 로딩 중
[sglang] EAGLE Speculative Decoding의 숨은 비용 제거: Vocab Shard Verify, Post-Verify CUDA Graph, 한 번의 Launch로 Draft 메타데이터 갱신작은 launch·gather·동기화를 걷어내 SGLang speculative decoding 처리량을 크게 끌어올린 PR 분석#SGLang#Speculative Decoding#EAGLE#CUDA Graph#Triton#Performance2026년 11월 5일댓글 수 로딩 중
[onnxruntime] ONNX Runtime WebGPU: NVIDIA GPU를 위한 FlashAttention 루프 언롤링 최적화NVIDIA GPU 환경에서 FlashAttention의 QK/PV 연산을 언롤링하여 성능을 최대 80% 향상시킨 최적화 기법을 분석합니다.#ONNX Runtime#WebGPU#FlashAttention#Performance Optimization#WGSL2026년 11월 4일댓글 수 로딩 중
[vllm] vLLM, H200 GPU를 위한 FP8 MoE 다운 프로젝션 최적화: TMA 활용 및 커널 퓨전으로 7.6% 처리량 향상vLLM이 H200 GPU에서 FP8 MoE 모델의 다운 프로젝션 성능을 TMA와 커널 퓨전으로 개선하여 처리량을 높였습니다.#vLLM#H200#FP8#MoE#TMA#Triton#최적화#성능 향상2026년 11월 4일댓글 수 로딩 중
[vllm] vLLM 스케줄러 최적화: Cache-aware Admission으로 KV 캐시 효율 극대화하기FCFS의 한계를 넘어, 캐시 상태를 고려한 요청 순서 재정렬로 재연산을 줄이고 성능을 높이는 방법.#vLLM#LLM Serving#Scheduling#KV Cache#Optimization2026년 11월 4일댓글 수 로딩 중
[onnxruntime] ONNX Runtime CPU QMoE 최적화: INT2 AVX-512/AVX2 커널 도입 및 수치 안정성 개선QMoE CPU 실행을 위한 고성능 INT2 커널 추가와 수치적 안정성을 위한 정밀한 반올림 정책 및 오버플로우 방지 기법을 분석합니다.#ONNX Runtime#QMoE#AVX-512#SIMD#Optimization2026년 11월 4일댓글 수 로딩 중
[논문리뷰] Why Pay for Long Reasoning When Rewrite Do Trick? Causal Effects of Reasoning History Compaction on Future Generation and Agent Cost논문 페이지를 가져오지 못해서 요약을 작성할 수 없습니다.#Review2026년 11월 4일댓글 수 로딩 중
[논문리뷰] What Does Multi-Turn Reinforcement Learning Really Improve in LLM Agents?이 논문은 'Multi-turn agentic RL이 실제로 어떤 능력을 향상시키는가?'를 trajectory-level success rate만으로는 알 수 없다고 보고, 이 문제를 체계적으로 규명합니다.#Review#Multi-Turn Reinforcement Learning#LLM Agents#Pass@(K,T)#Interaction Budget#Error Recovery#Step-Level Action Quality#BudgetMix RL#GRPO2026년 11월 4일댓글 수 로딩 중
[논문리뷰] VideoMemBench: How Well Do MLLMs Remember in Video Conversations?본 논문은 기존 video QA benchmark가 In-Context Video Memory를 구조적으로 측정할 수 없다는 문제를 해결하기 위해 VideoMemBench를 제안합니다.#Review#Multimodal Large Language Models#In-Context Video Memory#Multi-Turn Dialogue#Video Question Answering#Cross-Turn Dependency#Benchmark#Long Video Understanding2026년 11월 4일댓글 수 로딩 중
[논문리뷰] VidDub: Replacement-Aware Distillation for Two-Step Video Dubbing요약을 작성하지 못했습니다. 논문 페이지를 열 수 없었기 때문입니다.#Review2026년 11월 4일댓글 수 로딩 중
[논문리뷰] VeriSpoof: Beyond Real or Fake with One Audio LLM논문 페이지를 불러오지 못해서 요약을 작성하지 못했습니다.#Review2026년 11월 4일댓글 수 로딩 중
[논문리뷰] VA-TDM: A Unified View for Improving Few-Step Diffusion Models by Velocity Adversarial DistillationYihong Luo이 arXiv에 게시한 'VA-TDM: A Unified View for Improving Few-Step Diffusion Models by Velocity Adversarial Distillation' 논문에 대한 자세한 리뷰입니다.#Review2026년 11월 4일댓글 수 로딩 중
[논문리뷰] UniRestorer++: Scalable Universal Image Restoration with Multi-Granularity Degradation Modeling요약을 작성하지 못했습니다. 링크(https://arxiv.org/html/2611.06042)의 논문을 가져올 수 없었기 때문입니다.#Review2026년 11월 4일댓글 수 로딩 중
[논문리뷰] Turns Matter: Advancing Streaming Video RL via Turn-Level Credit이 논문이 다루는 핵심 문제는 streaming video RL의 granularity mismatch입니다. 기존 GRPO 방식은 하나의 trajectory-level advantage를 모든 decision turn에 똑같이 나눠 줍니다(broadcast).#Review#Streaming Video Understanding#Reinforcement Learning#GRPO#Credit Assignment#Turn-Level Advantage#Loss Aggregation#Video LLM2026년 11월 4일댓글 수 로딩 중
[논문리뷰] The SIMPLE Law for Energy Cost of LLM Inference이 논문이 해결하려는 문제는 LLM inference에서 token 하나의 energy 비용을 architecture hyperparameter로 설명하고, 처음 보는(unseen) LLM에도 적용할 수 있는 analytical law가 없다는 점이다.#Review#LLM Inference Energy#Analytical Energy Model#KV-cache#Grouped-Query Attention#Tokenomics#Intelligence per Joule#Agentic AI#Green AI2026년 11월 4일댓글 수 로딩 중
[논문리뷰] TaoMate-HD: Progressive-Resolution Autoregressive Audio-Video Generation요약을 작성하지 못했습니다. 논문 페이지를 가져올 수 없었기 때문입니다.#Review2026년 11월 4일댓글 수 로딩 중
[논문리뷰] TAC-CoT: Tool-Empowered Implicit Chain-of-Thought via Interleaving Explicit TokensJuseon Do이 arXiv에 게시한 'TAC-CoT: Tool-Empowered Implicit Chain-of-Thought via Interleaving Explicit Tokens' 논문에 대한 자세한 리뷰입니다.#Review2026년 11월 4일댓글 수 로딩 중