[flashinfer] FlashInfer, Blackwell GPU를 위한 최적화된 Dense Projection GEMM 도입FlashInfer의 최신 PR은 Blackwell GPU 아키텍처에 최적화된 Dense Projection GEMM을 도입하여 성능을 크게 향상시킵니다.#FlashInfer#GEMM#Blackwell#GPU 최적화#딥러닝2026년 10월 16일댓글 수 로딩 중
[onnxruntime] ONNX Runtime WebGPU: AMD GPU를 위한 Subgroup Matrix MatMulNBits 최적화AMD D3D12 환경에서 wave64 기반의 유연한 타일링 전략을 도입하여 MatMulNBits 성능을 최대 11% 향상시켰습니다.#WebGPU#ONNX Runtime#GPU Optimization#AMD#MatMul2026년 10월 16일댓글 수 로딩 중
[flashinfer] FlashInfer, Muse-Spark-Open을 위한 융합 정규화 및 TP/EP MoE 최적화로 성능 극대화FlashInfer가 Muse-Spark-Open 모델을 위해 융합 정규화 및 TP/EP MoE 커널을 도입하여 성능을 크게 향상시킨 방법을 분석합니다.#FlashInfer#최적화#딥러닝#GPU#MoE#정규화2026년 10월 16일댓글 수 로딩 중
[onnxruntime] ONNX Runtime CUDA QMoE 및 FP8 최적화: 성능 향상 및 메모리 효율성 증대ONNX Runtime CUDA에서 NVFP4 가중치 레이아웃 및 블록 스케일 FP8 실행을 최적화하여 대규모 MoE 모델의 성능과 메모리 효율성을 개선했습니다.#ONNX Runtime#CUDA#Optimization#FP8#MoE#QMoE#NVFP4#Performance2026년 10월 16일댓글 수 로딩 중
[onnxruntime] ONNX Runtime CUDA Packed Sparse Attention 최적화: 성능 향상의 비결ONNX Runtime CUDA Packed Sparse Attention의 성능을 획기적으로 개선한 최적화 PR 분석#ONNX Runtime#CUDA#Sparse Attention#Optimization#Performance2026년 10월 16일댓글 수 로딩 중
[flashinfer] FlashInfer, NVIDIA 최신 GPU를 위한 AlphaMoE NVFP4 커널 최적화로 성능 대폭 향상FlashInfer의 최신 PR은 NVIDIA B200 및 GB300 GPU에서 AlphaMoE NVFP4 연산 속도를 크게 향상시켜 SOTA 성능을 달성했습니다.#AI#GPU#최적화#성능#FlashInfer#AlphaMoE#NVFP4#NVIDIA2026년 10월 15일댓글 수 로딩 중
[flashinfer] FlashInfer AlphaMoE W8A8 커널 최적화: (M, K) 기반 동적 커널 디스패치NVIDIA B200/GB300에서 W8A8 MoE 커널의 파이프라인 깊이와 CTA 설정을 (M, K)에 따라 최적화하여 성능을 극대화했습니다.#FlashInfer#MoE#CUDA#KernelOptimization#FP82026년 10월 15일댓글 수 로딩 중
[flashinfer] Kimi K3를 위한 초고속 통신 최적화: FlashInfer의 Blackwell MNNVL CuTe DSL 프로파일링 분석FlashInfer가 Kimi K3 모델(H7168)을 위해 Blackwell NVLink 환경에서 All-Reduce와 MoE Fusion을 최적화한 방법을 분석합니다.#FlashInfer#Blackwell#NVLink#CUDA#MoE#Optimization2026년 10월 15일댓글 수 로딩 중
[vllm] AMD ROCm GFX11 GPU의 L2 캐시 충돌을 피하기 위한 GEMM 가중치 행 스트라이드 최적화AMD ROCm GFX11 GPU에서 GEMM 연산 시 L2 캐시 충돌 문제를 해결하여 성능을 개선하는 코드 최적화 분석.#vllm#ROCm#AMD#GFX11#GEMM#최적화#성능2026년 10월 15일댓글 수 로딩 중
[vllm] vLLM의 Mamba 블록 테이블 가더(Gather) 최적화: 7개 커널을 1개로 통합하여 6배 속도 향상Mamba 모델의 블록 테이블 정렬 연산을 7개의 커널 호출에서 1개의 Triton 커널로 통합하여 오버헤드를 획기적으로 줄였습니다.#vLLM#Triton#Kernel Optimization#Mamba#Performance2026년 10월 15일댓글 수 로딩 중
[논문리뷰] WorldCast: Exploring Intelligent Visual Generation in World State Prediction본 논문은 Multimodal Generative Systems의 World State Prediction capabilities에 대한 체계적인 탐색이 부족하다는 문제 의식을 제기한다.#Review2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy DistillationReinforcement Learning (RL)은 인간 선호도 또는 검증 가능한 보상(verifiable rewards)을 사용하여 언어 모델의 지시 따르기(instruction following) 및 수학/코드 추론(mathematical and code reasoning) 능력을 향상시킬 수 있습니다.#Review#On-Policy Distillation#Reinforcement Learning#Policy Shift#Knowledge Distillation#Waypoint Checkpoint#Gating Mechanism#Mathematical Reasoning#Code Reasoning2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Virtual Head Attention본 논문은 대규모 언어 모델의 어텐션 메커니즘 설계 시 직면하는 KV cache 크기, 학습/프리필 FLOPs, 모델 품질 간의 '불가능한 삼각형(impossible triangle)' 문제를 해결하고자 합니다 .#Review#Virtual Head Attention#Grouped-Query Attention#KV Cache#Reparameterization#Large Language Models#Linear Postmix#Q Premix2026년 10월 15일댓글 수 로딩 중
[논문리뷰] VLA-Δ: Learning Physical State Transition for Vision-Language-Action Models본 논문은 기존 Vision-Language-Action (VLA) 모델들이 물리적 역학(physical dynamics)에 대한 제한적인 이해로 인해 실패하는 문제를 해결하고자 합니다.#Review#Vision-Language-Action Models#Physical State Transition#Multilevel Supervision#Robot Learning#Continuous Control#Data Annotation#Embodied Intelligence2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Speculative Forcing for Efficient Autoregressive Video Generation본 논문은 few-step autoregressive video generators의 비효율성을 해결하기 위해 Speculative Forcing을 제안한다.#Review#Autoregressive Video Generation#Speculative Decoding#Diffusion Models#Computational Efficiency#Token-wise Commitment#Deep Learning2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Self-Evolving Agent Harness본 연구는 에이전트(agents)가 배포(deployment) 이후 변화하는 태스크(tasks)와 환경에 지속적으로 적응(adaptation)해야 하는 근본적인 문제를 해결하고자 한다.#Review#Harness Self-Evolution#Agent#Recursive Self-Improvement (RSI)#Model-Harness Co-design#Continual Validation#Plugin Architecture#Interpreted-state Updates2026년 10월 15일댓글 수 로딩 중
[논문리뷰] SWE-at-Scale: Scalable Issue Synthesis from Historical Bug Fixes코딩 Agent의 역량이 향상됨에 따라, 더 광범위하고 diverse하며 verifiable한 SWE tasks의 공급이 필수적입니다. 기존 real-world SWE benchmarks는 자연적인 이슈 리포트 빈도와 수동 큐레이션 비용 때문에 scalability에 한계가 있습니다.#Review#Software Engineering Tasks#Bug Synthesis#Large Language Models (LLMs)#Code Generation#Reverse Engineering#Bug Diversity#Scalability2026년 10월 15일댓글 수 로딩 중
[논문리뷰] SCOPE: Semantic Bounded Credit Optimization for Prompt Engineering in Text-to-image Generation본 논문은 Text-to-image (T2I) prompt rewriting에서 발생하는 Semantic Credit Fragmentation 문제를 해결하기 위해 SCOPE를 제안한다.#Review#Text-to-image Generation#Prompt Engineering#Reinforcement Learning#Credit Assignment#Semantic Spans#GRPO#Compositional Control#Large Language Models2026년 10월 15일댓글 수 로딩 중
[논문리뷰] RoTA-Bench: Evaluating 3D Spatial Reasoning through Interactive Projection Alignment현재 vision-language models (VLMs)는 3D 공간에서의 위치, 방향, 공간 관계 추론에 지속적인 어려움을 겪고 있으며, 2D 관찰을 3D 이해로 전환하여 정밀한 action을 지원하는 모델의 능력을 평가할 효과적인 도구가 부족하다.#Review#3D Spatial Reasoning#Vision-Language Models#Interactive Benchmarks#Projection Alignment#Evaluation Metrics#Human-Model Gap2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Orbia: Do Generated Videos Form a Consistent 3D World?본 논문은 비디오 생성기가 사실적이고 시각적으로 매력적인 프레임을 생성할 수 있지만, 이러한 프레임이 반드시 일관된 3D 세계를 형성하지는 않아, 대화형 탐색 및 시뮬레이션에 한계가 있다는 핵심 문제를 제기합니다.#Review#3D Consistency#Interactive World Models#Video Generation#Benchmark#Exploration-and-Revisit#Spatial Memory#Geometric Evaluation2026년 10월 15일댓글 수 로딩 중