[flashinfer] FlashInfer AlphaMoE W8A8 커널 최적화: (M, K) 기반 동적 커널 디스패치NVIDIA B200/GB300에서 W8A8 MoE 커널의 파이프라인 깊이와 CTA 설정을 (M, K)에 따라 최적화하여 성능을 극대화했습니다.#FlashInfer#MoE#CUDA#KernelOptimization#FP82026년 10월 15일댓글 수 로딩 중
[flashinfer] Kimi K3를 위한 초고속 통신 최적화: FlashInfer의 Blackwell MNNVL CuTe DSL 프로파일링 분석FlashInfer가 Kimi K3 모델(H7168)을 위해 Blackwell NVLink 환경에서 All-Reduce와 MoE Fusion을 최적화한 방법을 분석합니다.#FlashInfer#Blackwell#NVLink#CUDA#MoE#Optimization2026년 10월 15일댓글 수 로딩 중
[vllm] AMD ROCm GFX11 GPU의 L2 캐시 충돌을 피하기 위한 GEMM 가중치 행 스트라이드 최적화AMD ROCm GFX11 GPU에서 GEMM 연산 시 L2 캐시 충돌 문제를 해결하여 성능을 개선하는 코드 최적화 분석.#vllm#ROCm#AMD#GFX11#GEMM#최적화#성능2026년 10월 15일댓글 수 로딩 중
[vllm] vLLM의 Mamba 블록 테이블 가더(Gather) 최적화: 7개 커널을 1개로 통합하여 6배 속도 향상Mamba 모델의 블록 테이블 정렬 연산을 7개의 커널 호출에서 1개의 Triton 커널로 통합하여 오버헤드를 획기적으로 줄였습니다.#vLLM#Triton#Kernel Optimization#Mamba#Performance2026년 10월 15일댓글 수 로딩 중
[논문리뷰] WorldCast: Exploring Intelligent Visual Generation in World State Prediction본 논문은 Multimodal Generative Systems의 World State Prediction capabilities에 대한 체계적인 탐색이 부족하다는 문제 의식을 제기한다.#Review2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy DistillationReinforcement Learning (RL)은 인간 선호도 또는 검증 가능한 보상(verifiable rewards)을 사용하여 언어 모델의 지시 따르기(instruction following) 및 수학/코드 추론(mathematical and code reasoning) 능력을 향상시킬 수 있습니다.#Review#On-Policy Distillation#Reinforcement Learning#Policy Shift#Knowledge Distillation#Waypoint Checkpoint#Gating Mechanism#Mathematical Reasoning#Code Reasoning2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Virtual Head Attention본 논문은 대규모 언어 모델의 어텐션 메커니즘 설계 시 직면하는 KV cache 크기, 학습/프리필 FLOPs, 모델 품질 간의 '불가능한 삼각형(impossible triangle)' 문제를 해결하고자 합니다 .#Review#Virtual Head Attention#Grouped-Query Attention#KV Cache#Reparameterization#Large Language Models#Linear Postmix#Q Premix2026년 10월 15일댓글 수 로딩 중
[논문리뷰] VLA-Δ: Learning Physical State Transition for Vision-Language-Action Models본 논문은 기존 Vision-Language-Action (VLA) 모델들이 물리적 역학(physical dynamics)에 대한 제한적인 이해로 인해 실패하는 문제를 해결하고자 합니다.#Review#Vision-Language-Action Models#Physical State Transition#Multilevel Supervision#Robot Learning#Continuous Control#Data Annotation#Embodied Intelligence2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Speculative Forcing for Efficient Autoregressive Video Generation본 논문은 few-step autoregressive video generators의 비효율성을 해결하기 위해 Speculative Forcing을 제안한다.#Review#Autoregressive Video Generation#Speculative Decoding#Diffusion Models#Computational Efficiency#Token-wise Commitment#Deep Learning2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Self-Evolving Agent Harness본 연구는 에이전트(agents)가 배포(deployment) 이후 변화하는 태스크(tasks)와 환경에 지속적으로 적응(adaptation)해야 하는 근본적인 문제를 해결하고자 한다.#Review#Harness Self-Evolution#Agent#Recursive Self-Improvement (RSI)#Model-Harness Co-design#Continual Validation#Plugin Architecture#Interpreted-state Updates2026년 10월 15일댓글 수 로딩 중
[논문리뷰] SWE-at-Scale: Scalable Issue Synthesis from Historical Bug Fixes코딩 Agent의 역량이 향상됨에 따라, 더 광범위하고 diverse하며 verifiable한 SWE tasks의 공급이 필수적입니다. 기존 real-world SWE benchmarks는 자연적인 이슈 리포트 빈도와 수동 큐레이션 비용 때문에 scalability에 한계가 있습니다.#Review#Software Engineering Tasks#Bug Synthesis#Large Language Models (LLMs)#Code Generation#Reverse Engineering#Bug Diversity#Scalability2026년 10월 15일댓글 수 로딩 중
[논문리뷰] SCOPE: Semantic Bounded Credit Optimization for Prompt Engineering in Text-to-image Generation본 논문은 Text-to-image (T2I) prompt rewriting에서 발생하는 Semantic Credit Fragmentation 문제를 해결하기 위해 SCOPE를 제안한다.#Review#Text-to-image Generation#Prompt Engineering#Reinforcement Learning#Credit Assignment#Semantic Spans#GRPO#Compositional Control#Large Language Models2026년 10월 15일댓글 수 로딩 중
[논문리뷰] RoTA-Bench: Evaluating 3D Spatial Reasoning through Interactive Projection Alignment현재 vision-language models (VLMs)는 3D 공간에서의 위치, 방향, 공간 관계 추론에 지속적인 어려움을 겪고 있으며, 2D 관찰을 3D 이해로 전환하여 정밀한 action을 지원하는 모델의 능력을 평가할 효과적인 도구가 부족하다.#Review#3D Spatial Reasoning#Vision-Language Models#Interactive Benchmarks#Projection Alignment#Evaluation Metrics#Human-Model Gap2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Orbia: Do Generated Videos Form a Consistent 3D World?본 논문은 비디오 생성기가 사실적이고 시각적으로 매력적인 프레임을 생성할 수 있지만, 이러한 프레임이 반드시 일관된 3D 세계를 형성하지는 않아, 대화형 탐색 및 시뮬레이션에 한계가 있다는 핵심 문제를 제기합니다.#Review#3D Consistency#Interactive World Models#Video Generation#Benchmark#Exploration-and-Revisit#Spatial Memory#Geometric Evaluation2026년 10월 15일댓글 수 로딩 중
[논문리뷰] OpenGCUA: Toward a Fully Open Stack for Generalist Computer Use컴퓨터 사용 에이전트 연구는 GUI-only 상호작용에서 visual 및 programmatic 인터페이스를 통해 사용자 컴퓨터에서 task를 완료하는 시스템으로 초점이 확장되는 전환점에 도달했다.#Review#Generalist Computer-Use Agent#Code Execution#Harness-to-Model Decision Transfer#Open Stack#Real-Device#OSWorld-v2#Computer-Use Agents#Efficiency2026년 10월 15일댓글 수 로딩 중
[논문리뷰] OmniCompass: A Holistic Benchmark for Omni-Modal Video Grounding and Understanding본 논문은 Multimodal Large Language Models (MLLMs)의 급속한 발전에 따라 비디오 이해 능력에 대한 종합적인 평가의 필요성을 핵심 문제로 제기합니다.#Review#Omni-Modal Video Understanding#Video Grounding#Temporal Grounding#Spatial Grounding#Question Answering#MLLMs#Benchmark#Cross-Specification Consistency2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Mosaic: Multi-Session Agentic Reinforcement Learning본 논문은 기존 Agentic Reinforcement Learning(RL) 방법론들이 대부분 single-session trajectory를 가정하여, multi-turn 상호작용이 단일하게 누적되는 context 내에서 진행된다는 한계를 지적합니다.#Review#Agentic Reinforcement Learning#Multi-Session#Large Language Models (LLMs)#Context Management#Hierarchical Optimization#Advantage Estimation#Session Utility2026년 10월 15일댓글 수 로딩 중
[논문리뷰] Memory as Weights: Internalizing Long-Term History for Streaming VideosStreaming Vision-Language Models (VLMs)은 과거 정보를 지속적으로 통합하면서도 현재 observation과 user query에 실시간으로 반응해야 하는 근본적인 문제에 직면한다.#Review#Streaming VLMs#Long-Term Memory#LoRA#HyperNetwork#Streaming Video Understanding#Vision-Language-Action Models#State-Space Model2026년 10월 15일댓글 수 로딩 중
[논문리뷰] MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering본 논문은 LLM이 과학 연구 및 엔지니어링 지원을 넘어 AI 시스템을 자율적으로 개발하고 개선하는, 즉 AI for AI (AI4AI)를 통한 재귀적 자기 개선(Recursive Self-Improvement, RSI)의 길을 개척하는 데 있어 Machine Learning Engineering (MLE)의 장기적인 최적화 문제 해결을 목표로 합니다.#Review#Autonomous Machine Learning Engineering#Agentic Model#Mixture-of-Experts#Long-Horizon Optimization#Hierarchical Agentic SFT#Windowed Interaction Reinforcement Learning#AI for AI2026년 10월 15일댓글 수 로딩 중
[논문리뷰] MJev-Spatial: System One Spatial Intelligence via Native Attention Matching본 논문은 기존 Vision-Language Models (VLMs)이 spatial understanding task를 수행하는 방식의 비효율성을 핵심 문제로 지적한다.#Review#Spatial Intelligence#System 1 Model#Multimodal Decision Model#VLM#Classification Framework#Native Attention Matching#Inference Latency#Coarse-to-fine Prediction2026년 10월 15일댓글 수 로딩 중