[flashinfer] FlashInfer MoE 라우팅 최적화: 더 똑똑해진 전문가 선택으로 성능 향상FlashInfer의 MoE 라우팅 로직을 개선하여 전문가 선택 규칙을 최적화하고 성능을 향상시켰습니다.#AI#Machine Learning#Optimization#MoE#FlashInfer#Performance2026년 10월 19일댓글 수 로딩 중
[flashinfer] FlashInfer SM90 아키텍처 성능 최적화: QkvNormRopeExchangeOverlap의 Shape Gate 개선SM90(Hopper) 아키텍처에서 QKV 교환 시 small-row readiness gate를 활성화하여 통신 성능을 최대 1.19% 개선했습니다.#FlashInfer#CUDA#H100#Performance#Optimization2026년 10월 19일댓글 수 로딩 중
[flashinfer] Blackwell(SM100a) 성능 극대화: FlashInfer의 CTA-Pair 커널 최적화 분석FlashInfer의 Cake 백엔드에서 SM100a(B200)를 위한 CTA-pair 커널을 도입하여 특정 Shape에서 최대 10.1%의 성능 향상을 달성한 과정을 분석합니다.#FlashInfer#Blackwell#CUDA#Performance-Optimization#LLM-Inference2026년 10월 19일댓글 수 로딩 중
[flashinfer] FlashInfer, Kimi-K3 FP8 프로젝션 커널 공유 및 코드 최적화를 통한 성능 향상FlashInfer의 Kimi-K3 FP8 프로젝션 커널 공유 및 코드 최적화를 통해 성능을 크게 향상시킨 PR 분석#FlashInfer#FP8#GEMM#Kernel Optimization#Code Refactoring#Performance2026년 10월 19일댓글 수 로딩 중
[flashinfer] FlashInfer: Cake Warp-Decode 커널의 'Deslop'을 통한 호스트 오버헤드 최적화 및 코드 정제FlashInfer의 Cake 커널에서 불필요한 1MB JSON, 미사용 FFI, 호스트 측 중복 호출을 제거하여 성능과 유지보수성을 개선한 사례를 분석합니다.#CUDA#FlashInfer#MoE#Optimization#PyTorch2026년 10월 18일댓글 수 로딩 중
[flashinfer] FlashInfer CAKE VSA 커널 최적화: 중복 제거와 비효율적인 CuTe DSL 제거로 얻은 코드 효율성FlashInfer의 CAKE VSA 커널에서 중복 코드와 비효율적인 CuTe DSL을 제거하여 코드베이스를 최적화한 PR 분석.#FlashInfer#CUDA#Optimization#Refactoring#Sparse Attention#Kernel Fusion#Code Hygiene2026년 10월 18일댓글 수 로딩 중
[flashinfer] FlashInfer CAKE GDN 백엔드 최적화: 코드베이스 경량화 및 템플릿 기반 렌더링 도입CAKE GDN 백엔드의 중복 코드를 제거하고 템플릿 기반 호스트 심을 도입하여 코드베이스를 40% 이상 축소한 최적화 사례.#FlashInfer#CUDA#KernelOptimization#JIT#C++2026년 10월 18일댓글 수 로딩 중
[flashinfer] FlashInfer CAKE FMHA 백엔드 최적화: 코드 중복 제거 및 성능 향상FlashInfer의 CAKE FMHA 백엔드에서 코드 중복을 제거하고 성능을 최적화한 PR 분석#FlashInfer#AI#LLM#최적화#CUDA#성능#기술 블로그2026년 10월 18일댓글 수 로딩 중
[논문리뷰] Xiaomi-Lens-0 Technical Report본 논문은 기존 MLLMs가 Fine-grained Region Understanding에서 겪는 한계점을 해결하고자 한다.#Review#Multimodal Large Language Models (MLLMs)#Visual Grounding#Referring Expression Segmentation (RES)#Mask Prediction#Visual Latents#Fine-grained Perception#Grounded Reasoning#LensBench2026년 10월 18일댓글 수 로딩 중
[논문리뷰] Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning본 논문은 긴 호흡의 에이전트 작업에서 terminal reward 기반의 학습이 겪는 credit assignment의 sparse함과 고분산 문제, 그리고 학습 과정에서의 policy staleness 문제를 해결하는 것을 목표로 한다.#Review#Reinforcement Learning#Long-Horizon#Agentic RL#Posterior Distillation#Tree Search#Credit Assignment#Policy Drift2026년 10월 18일댓글 수 로딩 중
[논문리뷰] Towards Looped Models Done Right, Part I: Topology, Input Injection, Recurrent-State Design본 연구는 기존 Looped Models의 설계 요소들이 혼재되어 있어, 어떤 아키텍처적 선택이 실제 성능 향상에 기여하는지 불분명하다는 문제를 해결한다.#Review#Looped Models#Transformer#Mixture-of-Experts#Recurrence#Input Injection#Sandwich Architecture#Parameter Scaling2026년 10월 18일댓글 수 로딩 중
[논문리뷰] Stuck on Shuffle: On Attribute-Object Binding in Vision-Language Models본 논문은 Vision-Language Models (VLMs)가 단순한 Bag-of-Words 매처처럼 동작하여 속성과 객체 간의 바인딩을 안정적으로 수행하지 못하는 문제를 해결합니다 .#Review#Vision-Language Models#Attribute-Object Binding#Retrieval#Multimodal Embeddings#Compositionality#Synthetic Supervision#SABER2026년 10월 18일댓글 수 로딩 중
[논문리뷰] StopWatch: Goal Grounding for Object-goal Navigation본 논문은 Object-goal Navigation에서 fine-tuned VLM 정책이 목표를 탐색하는 능력은 뛰어나지만, 정작 목표에 도달했을 때 멈추지 못하고 지나치는 문제에 주목한다.#Review#Object-goal Navigation#Vision-Language Models#Goal Grounding#Embodied AI#Behavior Cloning#Open-vocabulary Navigation2026년 10월 18일댓글 수 로딩 중
[논문리뷰] Speculative Sampling in Interactive Video Generation본 논문은 interactive video generation에서 low-latency interaction을 달성하는 동시에 높은 video quality와 GPU parallelism 활용을 유지하는 문제를 해결하고자 한다.#Review#Speculative Sampling#Interactive Video Generation#Bidirectional Models#Chunk Size#Latency#Output Commitment#DiT Sampling#Finite-State Machine2026년 10월 18일댓글 수 로딩 중
[논문리뷰] Selection Is Not Learning: Choosing Model Futures본 논문은 기존의 Self-evolving Language Models가 학습 루프 내에서 불완전한 의사결정 방식을 취하고 있다는 문제를 해결하고자 합니다.#Review#Self-evolving Language Models#Model Inheritance#HeirCommit#EvoHeir#Experience Recovery#Selection-to-update Gap2026년 10월 18일댓글 수 로딩 중
[논문리뷰] SciΠvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents본 논문은 Scientific AutoResearch 에이전트가 고차원의 과학적 연구 수행 능력과 달리, 핵심적인 연구 방향을 결정하는 PI Judgment 측면에서 심각한 병목 현상을 겪고 있다는 점에 주목합니다.#Review#Scientific AutoResearch#PI Judgment#LLM Agents#Scientific Benchmark#Decision-making#Human Correction2026년 10월 18일댓글 수 로딩 중
[논문리뷰] Scene-Designer: Learning Design Intelligence for Agentic 3D Scene Generation본 논문은 자연어 명령을 기반으로 완전하고 응집력 있는 3D 실내 장면을 자동 생성하기 위해 Design Intelligence의 필요성을 강조한다. 기존의 범용 모델들은 특정 도메인에 대한 설계 경험이 부족하며, 생성 과정에서 불필요한 시행착오를 반복하여 효율적인 오류 수정이 어렵다는 한계가 있다 .#Review#Agentic 3D Scene Generation#Design Intelligence#Scene-OTA#Scene-OTC#Scene-GRPO#Critic-Guided Optimization2026년 10월 18일댓글 수 로딩 중
[논문리뷰] Resisting Harmful Instructions through Training-Free Weight Editing본 논문은 Instruction-following 언어 모델이 사용자나 시스템의 유해한 지시(예: 거짓말 유도, 차별 발언 조장)에 취약하다는 문제를 해결하고자 합니다.#Review#Weight Editing#Instruction-following#Activation Contrast#Safety Alignment#Language Models#Robustness#Training-Free2026년 10월 18일댓글 수 로딩 중
[논문리뷰] ReaDy: Recurrent States as Dynamic Context for Speculative Drafting in Hybrid Linear Attention Large Language Models본 논문은 기존의 speculative decoding 방식이 target 모델의 hidden feature에만 의존함으로써, 후속 draft position에서 요구하는 문맥을 충분히 반영하지 못하는 한계를 해결하고자 한다.#Review#Speculative Decoding#Hybrid Linear Attention#Recurrent States#Context Retrieval#Large Language Models#Latency Optimization2026년 10월 18일댓글 수 로딩 중
[논문리뷰] RAP: A Dataset for Paper-to-Poster Generation via Declarative Markup from Human-Crafted Exemplars본 연구는 학술 포스터 제작을 Visual Coding의 일종으로 정의하고, 기존 포스터 생성 벤치마크들의 데이터 부족 및 평가 방식의 한계를 해결하고자 합니다. 기존 연구들은 레이아웃 박스 수준의 정보만 제공하거나, 모델이 처음부터 레이아웃을 생성하도록 하여 전문적인 디자인 지식 반영이 어렵다는 문제가 있었습니다 .#Review#Poster Generation#Visual Coding#Dataset#Retrieval-Augmented Generation#Multimodal Learning#Reinforcement Learning2026년 10월 18일댓글 수 로딩 중