[transformers] Hugging Face Transformers, GGUF 추론 속도 향상을 위한 대대적인 리팩토링Hugging Face Transformers 라이브러리가 GGUF 모델 추론 속도 향상을 위해 대대적인 리팩토링을 진행했습니다.#transformers#GGUF#inference#optimization#quantization#llama.cpp#kernels2026년 9월 4일댓글 수 로딩 중
[vllm] vLLM의 Fast Start: CUDA IPC를 활용한 모델 가중치 제로 카피 로딩모델 가중치를 GPU 메모리에 상주시키는 데몬을 통해 엔진 재시작 시 디스크 I/O 없이 즉시 로딩하는 최적화 기법을 소개합니다.#vLLM#CUDA#IPC#Optimization#LLM2026년 9월 4일댓글 수 로딩 중
[sglang] MiniMax-H3 모델의 AdaLN 추론 최적화: Pinned-Host 캐싱과 LRU 전략MiniMax-H3 모델의 AdaLN 재구축 비용을 획기적으로 줄이는 Pinned-Host 캐싱 및 LRU 기법 도입#SGLang#Diffusion#Optimization#Caching#MiniMax-H32026년 9월 3일댓글 수 로딩 중
[vllm] vLLM의 PLE 메타데이터 전송 최적화: 비동기 전송으로 성능 향상vLLM의 Qwen4Exp PLE 메타데이터 빌더에서 비동기 전송을 사용하여 GPU 커널 간 동기화를 제거하고 성능을 향상시킨 PR 분석.#vLLM#최적화#성능#LLM#GPU#CUDA2026년 9월 3일댓글 수 로딩 중
[vllm] vLLM의 작은 배치 사이즈를 위한 Triton 기반 Split-row Top-p 샘플링 최적화작은 배치 환경에서 vLLM의 Top-p 샘플링 성능을 극대화하기 위해 Triton 커널을 재설계하여 효율성을 높였습니다.#vLLM#Triton#CUDA#LLM#Performance2026년 9월 3일댓글 수 로딩 중
[flashinfer] FlashInfer, CuTe DSL을 활용한 저지연 GEMM 커널 도입으로 성능 극대화FlashInfer가 CuTe DSL 기반의 저지연 GEMM 커널을 도입하여 FP4/FP8 연산 성능을 혁신적으로 개선했습니다.#FlashInfer#GEMM#CuTe DSL#FP8#FP4#최적화#성능2026년 9월 3일댓글 수 로딩 중
[논문리뷰] WorldReward: Reward Modeling for Camera-Conditioned World Models본 논문은 camera-conditioned world models의 생성물에 대해 Action-consistency와 Visual-quality를 동시에 평가하는 신뢰할 수 있는 Reward 모델의 부재를 해결합니다.#Review#World Models#Reward Modeling#Camera-Conditioned#Vision-Language Models#Preference Optimization#Reinforcement Learning2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Why Gated DeltaNet Survives 4-Bit Quantization: NVFP4 W4A4 for the Recurrent Half of a Hybrid 27B LLM본 논문은 Gated DeltaNet (GDN)과 같은 선형 Attention 레이어를 포함하는 Hybrid Large Language Models (LLMs)에 NVFP4 W4A4 4-bit 양자화를 적용하는 과정에서의 근본적인 문제를 다룬다.#Review#NVFP4#W4A4#Gated DeltaNet#LLM Quantization#Hybrid LLM#Recurrent Networks#KV-cache#Post-training Quantization2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Using Grounded Theory for Agent Behavior Analysis at Scale본 논문은 LLM 기반 에이전트의 복잡한 행동 궤적을 이해하고, 성공과 실패의 원인을 규모 있게(at scale) 분석하는 방법론의 부재를 해결합니다. 기존의 정량적 메타데이터(수행 성공 여부 등)는 에이전트가 '왜' 실패했는지에 대한 설명력이 부족하며, 수동 분석은 확장성이 매우 낮습니다 .#Review#Agent Behavior Analysis#Grounded Theory#Multi-Agent Framework#Qualitative Coding#Theoretical Saturation#Failure Prediction2026년 9월 3일댓글 수 로딩 중
[논문리뷰] The Missing Temporal Link: Temporal Context Routing for Script-Driven Audio-Video Generation본 연구는 script-driven audio-video generation에서 스크립트 내 촬영 전환 및 대사 시점이 영상 생성 결과물에 정밀하게 반영되지 않는 문제를 해결하고자 합니다.#Review#Script-driven Generation#Audio-Video Generation#Temporal Context Routing#Temporal Alignment#Diffusion Transformers#Cross-Attention2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Terminal-Universe: Turning Agent Trajectories into Scalable Terminal Environments본 논문은 terminal-based agent의 학습에 필수적인 고품질의 실행 환경(Executable Environment)이 부족하다는 문제점을 해결하고자 합니다.#Review#Terminal-based Agent#Trajectory Reconstruction#Executable Environment#Supervised Fine-tuning#Multi-round Interaction#Cross-workspace Synthesis2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Select, Compress, Reinvest: A Controlled Study of Visual-Token Allocation in Long-Video MLLMs본 논문은 기존의 Long-Video MLLM 연구들이 frame selection, compression, reinvestment 과정을 개별적으로 분리하지 않고 시스템 단위로 평가하여, 각 단계의 실제 기여도를 명확히 파악하기 어렵다는 문제를 해결하고자 합니다.#Review#Long-Video MLLMs#Visual-Token Allocation#Orthogonal Matching Pursuit#Frame Selection#Spatial Compression#Token Reinvestment2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Scal3R: Learning Efficient Multi-Relative Pose Query for Scalable Online 3D Reconstruction본 논문은 기존 Online 3D reconstruction 모델들이 장기 영상(Long video) 처리 시 발생하는 기하학적 붕괴 문제를 해결하고자 합니다 .#Review#Online 3D reconstruction#Relative pose estimation#Prompt tuning#Pose graph optimization#Asymmetric attention2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Rethinking On-Policy Distillation of Large Language Models II: One Training Example본 논문은 LLM의 후처리(post-training) 과정에서 널리 활용되는 On-policy Distillation (OPD) 방법론에서 훈련 데이터(training data)의 역할이 불분명하다는 핵심 문제를 제기합니다.#Review#On-policy Distillation (OPD)#Large Language Models (LLMs)#State Coverage#Absorption Rate#Data Efficiency#One-shot Learning#Multi-teacher OPD (MOPD)2026년 9월 3일댓글 수 로딩 중
[논문리뷰] RealSWE: A Compositional Evaluation of Coding Agents under Realistic User Requests본 논문은 기존 코딩 에이전트 평가 체계가 실제 사용자의 요청 특성을 제대로 반영하지 못하는 문제를 해결하고자 합니다. 기존 SWE-bench는 상세하고 구조화된 정보를 제공하지만, 실제 개발자가 에이전트에게 보내는 요청은 훨씬 짧고 비격식적이며 정보가 누락된 경우가 많습니다 .#Review#Coding Agents#Software Engineering#Benchmark#Real-world Evaluation#Information Taxonomy#Large Language Models2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning본 논문은 대규모 추론 모델에서 긴 Chain-of-Thought 생성 시 발생하는 KV Cache 메모리 병목 현상을 해결하고자 합니다.#Review#KV Cache Eviction#Reasoning Models#Random Attention#Chain-of-Thought#Memory Bottleneck#Model Efficiency2026년 9월 3일댓글 수 로딩 중
[논문리뷰] QCell: Recombining and Aligning Cell Queries for Overlapping Instance Segmentation현미경 이미지에서 겹치는 셀의 Instance Segmentation은 반투명한 구조와 겹침 영역에서의 약한 경계 및 혼합된 시각적 증거로 인해 여전히 어려운 과제이다.#Review#Instance Segmentation#Overlapping Cells#Amodal Reasoning#Query-based Models#Instance Recombination#Contrastive Learning#Microscopy2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Puffin-World: Scaling a Unified Multimodal Model with Native 3D World States본 논문은 arbitrary visual observations으로부터 세계를 인식(perceive), 생성(generate), 그리고 재구성(reconstruct)할 수 있는 unified model이 부족하다는 핵심 문제를 해결하고자 한다.#Review#Multimodal Model#3D World States#Spatial Intelligence#Physical AI#Omni-Camera Representation#Free-Viewpoint Generation#3D Reconstruction#Physics Propagation2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Principia: Relational Physics Tests for Video Models본 논문은 현대의 video generative models가 시각적으로 매우 사실적인 영상을 생성함에도 불구하고, 실제 물리 법칙을 준수하지 못한다는 점을 문제로 제기한다.#Review#Video Generation#Physical Reasoning#Relational Invariants#Newtonian Physics#Benchmarking#Vision-Language Models#Consistency Score2026년 9월 3일댓글 수 로딩 중
[논문리뷰] Percolation Dynamics in Optimization : Variance Cascades and Discrete Scale Invariance본 논문은 SGD와 같은 최적화 알고리즘이 딥러닝 모델을 단순한 서브네트워크로 유도하는 과정인 'Stochastic Collapse'의 위상적 역학을 규명하고자 합니다.#Review#Stochastic Gradient Descent#Percolation#Discrete Scale Invariance#Invariant Sets#Reeb Graph#Implicit Bias#Grokking2026년 9월 3일댓글 수 로딩 중