[flashinfer] FlashInfer Mamba2 SSD 커널 최적화: Rubin(sm_107a) 아키텍처를 위한 고성능 전략FlashInfer의 Mamba2 SSD 커널을 Rubin GPU에 최적화하여 워크로드별 맞춤형 실행 경로와 Z-prefetch를 통해 성능을 개선했습니다.#FlashInfer#CUDA#Mamba2#GPU#Optimization2026년 10월 29일댓글 수 로딩 중
[flashinfer] [FlashInfer] SM120 FP8 Attention 최적화: Lazy Output Rescale를 통한 성능 향상FlashInfer의 SM120 FP8 Attention 커널에서 불필요한 rescale 연산을 건너뛰어 성능을 약 1.5% 개선한 사례를 분석합니다.#CUDA#FlashInfer#Attention#Optimization#Blackwell#FP82026년 10월 29일댓글 수 로딩 중
[flashinfer] FlashInfer FP8 GEMM 최적화: 윈도우 세그먼트 KG1 프로그램으로 GPU 성능 극대화FlashInfer의 FP8 GEMM 커널이 특정 조건에서 최대 1.4배 빨라진 비결을 파헤칩니다.#FlashInfer#GPU 최적화#FP8 GEMM#CUDA#성능 개선#딥러닝#병렬 컴퓨팅2026년 10월 29일댓글 수 로딩 중
[onnxruntime] ONNX Runtime WebGPU: NVIDIA GPU에서 Subgroup Matrix MatMul 성능 향상을 위한 Shared Memory Staging 최적화NVIDIA GPU의 WebGPU 백엔드에서 Subgroup Matrix MatMul 연산의 성능을 개선하기 위해 Shared Memory Staging 기법을 도입한 PR 분석#ONNX Runtime#WebGPU#NVIDIA#GPU 최적화#MatMul#Shared Memory#Subgroup Matrix2026년 10월 29일댓글 수 로딩 중
[sglang] SGLang에서 MiniMax-M3.1 모델의 DSpark 추론 최적화: Hopper GPU 지원 확장MiniMax-M3.1 모델의 DSpark 추론을 Blackwell 외 Hopper GPU에서도 지원하여 출력 처리량을 2.3배 향상시켰습니다.#SGLang#LLM#Speculative Decoding#Hopper#Optimization2026년 10월 29일댓글 수 로딩 중
[flashinfer] FlashInfer: NVFP4 MLA 디코드 최적화로 단일 아이템 디코드 성능 향상FlashInfer의 NVFP4 MLA 디코드 커널에서 단일 아이템 디코드 시 첫 번째 아이템 로딩 최적화를 통해 성능을 개선했습니다.#FlashInfer#성능 최적화#CUDA#딥러닝#LLM2026년 10월 28일댓글 수 로딩 중
[flashinfer] FlashInfer Kimi-K3 Fused Router 최적화: GB300 및 B200에서 최대 1.22배 성능 향상FlashInfer의 Kimi-K3 MoE 라우터 커널을 최적화하여 다양한 토큰 배치 크기에서 처리 지연 시간을 최대 22% 단축했습니다.#FlashInfer#MoE#CUDA#GPU 최적화#DeepLearning2026년 10월 28일댓글 수 로딩 중
[onnxruntime] ONNX Runtime: GatedDeltaNet 및 GatedRMSNorm의 CUDA 커널 최적화 분석H200 GPU에서 GatedDeltaNet과 GatedRMSNorm 커널을 최적화하여 최대 2.94배 성능 향상을 달성한 기술적 상세 분석.#ONNX Runtime#CUDA#GatedDeltaNet#Performance Optimization#GPU2026년 10월 28일댓글 수 로딩 중
[onnxruntime] CUDA GEMV 최적화: M=8 Narrow Tile 확장을 통한 GPU 점유율 극대화 (A100/H200 대응)ONNX Runtime에서 M=8 GEMV 커널의 CtaN 타일 크기를 최적화하여 GPU SM 점유율을 높이고 지연 시간을 단축한 사례를 분석합니다.#CUDA#ONNXRuntime#GEMV#LLM-Optimization#GPU-Performance2026년 10월 28일댓글 수 로딩 중
[논문리뷰] TauIndianBankBench: Procedure-Aware, Action-Oriented Evaluation of Tool-Using Conversational Agents본 논문은 기존의 LLM 기반 금융 서비스 에이전트 평가 방식이 실제 금융 업무의 Procedure 준수 여부를 온전히 측정하지 못하는 한계를 해결하고자 합니다.#Review#Conversational Agents#Retail Banking#Tool-Use Evaluation#Policy Compliance#Action-Oriented Benchmarking#Large Language Models2026년 10월 28일댓글 수 로딩 중
[논문리뷰] TAO: Tool-Aware Joint Scheduling for LLM-Based Agentic Serving본 논문은 LLM 기반 에이전트 서비스에서 도구 실행 지연(Tool-call latency)이 전체 시스템 성능을 저해하는 핵심 병목 현상이 되고 있음을 지적합니다.#Review#Agentic Serving#LLM#Joint Scheduling#Tool-Aware#KV-Cache#Dynamic Programming#Resource Management2026년 10월 28일댓글 수 로딩 중
[논문리뷰] Sensorimotor Alignment: A Platonic Proxy for Embodied Policy Success본 논문은 로봇 파운데이션 모델의 성능을 평가하기 위해 소요되는 비용이 막대하다는 점에 주목하여, 저렴하고 신뢰할 수 있는 오프라인 프록시 지표를 제안한다. 현재 대부분의 모델은 폐쇄 루프(Closed-loop) 롤아웃을 통해 평가되는데, 이는 시간이 많이 걸리고 환경에 의존적이라는 한계가 있다.#Review#Embodied AI#Sensorimotor Alignment#Platonic Representation Hypothesis#Robot Foundation Models#Offline Metric#Policy Success2026년 10월 28일댓글 수 로딩 중
[논문리뷰] RealCLI: Toward a Unified Evaluation of Human-Agent Collaboration for CLI Agents본 논문은 CLI 에이전트의 실질적인 작업 수행 능력과 인간과의 협업 품질을 동시에 평가할 수 있는 통합 프레임워크의 부재를 해결하고자 합니다.#Review#CLI Agent#Human-Agent Collaboration#Benchmark#Task Execution#Steerability#Trust Calibration#Safety Boundary Management2026년 10월 28일댓글 수 로딩 중
[논문리뷰] OmniSpectra: A Unified Foundation Model for Universal Spectra Representation Learning본 논문은 다양한 과학 도메인에서 생성되는 스펙트럼 데이터의 파편화된 분석 방식과 이로 인한 Domain-specific 모델의 한계를 극복하기 위해 OmniSpectra를 제안한다.#Review#Foundation Model#Spectra Representation Learning#Universal Model#Transfer Learning#Domain Adaptation#Multi-modal Learning2026년 10월 28일댓글 수 로딩 중
[논문리뷰] OmniShowcase: Omnidirectional Subject-Consistent Video Generation from Multi-View Images본 논문은 기존의 S2V 방식이 피사체의 제한된 뷰포인트만을 참조함에 따라, 카메라 이동 시 피사체의 3D 구조 및 외형이 일관되지 않게 붕괴되는 문제를 해결하고자 합니다.#Review#Subject-to-Video#Diffusion Models#3D Consistency#Geometry-Aware Conditioning#Omnidirectional Generation#Video Synthesis2026년 10월 28일댓글 수 로딩 중
[논문리뷰] LongZero: Enhancing Long-Context Reasoning in LLMs from Zero Data본 논문은 LLM의 long-context reasoning 능력을 강화하기 위한 학습 데이터 부족과 기존 합성 방식의 의존성 문제를 해결하고자 합니다.#Review#Large Language Models#Reinforcement Learning#Long-Context Reasoning#Zero Data#Data Synthesis#GRPO2026년 10월 28일댓글 수 로딩 중
[논문리뷰] HuGe: Scaling Humanoid Generalist Vision-Language-Action Models with Egocentric Experience본 논문은 Vision-Language-Action models (VLAs)를 휴머노이드 로봇에 확장하여 인간 환경에서 다양한 태스크를 수행할 수 있도록 하는 핵심 문제를 다룹니다.#Review#Humanoid Generalist VLAs#Egocentric Learning#Whole-Body Control#Proprioceptive States#Visual Adaptation#Transfer Learning#Robot Learning2026년 10월 28일댓글 수 로딩 중
[논문리뷰] Evaluating DeepSeek V4.1 Flash-1017 for loss of control and harmful manipulation risks본 연구는 DeepSeek V4.1 Flash-1017과 같이 급격히 발전하고 자율성이 높아진 Frontier Model이 실무 환경에서 안전하게 작동하는지 검증하는 데 목적이 있습니다.#Review#DeepSeek V4.1 Flash-1017#Evaluation Integrity#Loss of Control#Harmful Manipulation#Situational Awareness#Alignment Faking#CoT Monitorability2026년 10월 28일댓글 수 로딩 중
[논문리뷰] Efficient Streaming Audio-Visual Target Speaker Extraction for Real-World Acoustic Scenes본 연구는 실제 환경에서의 성능과 컴퓨팅 효율성을 동시에 만족하는 실시간 AVTSE 시스템의 부재를 해결한다. 기존 벤치마크는 화자 수를 2명으로 고정하거나 복잡한 실제 음향 환경(잔향, 원거리 간섭, 급격한 소음 등)을 반영하지 못한다는 한계가 있다 .#Review#Audio-Visual Target Speaker Extraction#Streaming#Causal Architecture#Real-World Benchmarking#Speaker Contrastive Loss#Efficiency2026년 10월 28일댓글 수 로딩 중
[논문리뷰] CausGround: Causal Interaction Grounding for Adaptive Embodied Planning본 논문은 MLLM 기반의 에이전트가 새로운 환경에서 복잡한 장기적 계획(long-horizon planning)을 수행할 때 발생하는 환경 적응성 부족 문제를 해결하고자 합니다.#Review#Embodied Planning#Causal Interaction#Factorized World-State#Multimodal Large Language Models#Non-parametric Adaptation#Action Preconditions2026년 10월 28일댓글 수 로딩 중