[flashinfer] FlashInfer: NVFP4 KV 캐시 어펜드 성능 최적화로 인한 동기화 제거FlashInfer의 NVFP4 KV 캐시 어펜드 시 불필요한 호스트 동기화를 제거하여 성능을 개선했습니다.#FlashInfer#성능 최적화#KV 캐시#CUDA#딥러닝2026년 10월 21일댓글 수 로딩 중
[flashinfer] FlashInfer FP8 GEMM 성능 최적화: 스케일 곱셈을 커널 내부로 통합FlashInfer의 FP8 GEMM에서 호스트 측 스케일 곱셈 오버헤드를 제거하여 성능을 개선했습니다.#FlashInfer#FP8 GEMM#성능 최적화#CUDA#CuTe-DSL2026년 10월 21일댓글 수 로딩 중
[loki] [Loki] 병렬 Flush 최적화: 가장 큰 데이터부터 먼저 처리하기Loki의 데이터 플러시 성능을 개선하기 위해, 가장 큰 빌더를 먼저 시작하여 병렬 처리 효율을 극대화하는 최적화 기법을 소개합니다.#Grafana Loki#Go#Performance Optimization#Concurrency#Parallelism2026년 10월 21일댓글 수 로딩 중
[flashinfer] FlashInfer의 CAKE GEMM 커널 최적화: 코드 중복 제거를 통한 성능 및 유지보수성 향상FlashInfer의 CAKE dense-projection GEMM 패키지에서 코드 중복을 제거하고 유지보수성을 높인 최적화 PR 분석.#FlashInfer#CUDA#GEMM#Code Optimization#Software Engineering#Performance#Code Generation#JIT2026년 10월 21일댓글 수 로딩 중
[sglang] SGLang, AMD GPU에서 Quark 모델의 FP4 GEMM 성능 최적화: AITER ASM 활용SGLang이 AMD GPU에서 Quark 모델의 FP4 GEMM 연산을 AITER ASM을 통해 최적화하여 성능을 향상시킨 방법을 분석합니다.#SGLang#AMD GPU#Quark#FP4 GEMM#AITER#Triton#최적화#성능 향상2026년 10월 21일댓글 수 로딩 중
[TensorRT] PyTorch TensorRT: 메모리 복사 제거를 통한 엔진 빌드 최적화TensorRT 엔진 생성 시 발생하는 불필요한 메모리 복사를 제거하여 호스트 메모리 사용량을 절반으로 줄인 최적화 사례를 분석합니다.#PyTorch#TensorRT#C++#Memory Optimization#Performance2026년 10월 20일댓글 수 로딩 중
[flashinfer] FlashInfer MoE 커널 최적화: 코드 중복 제거 및 JIT 컴파일 효율성 증대FlashInfer의 MoE 커널에서 코드 중복을 제거하고 JIT 컴파일 효율성을 높인 PR 분석#FlashInfer#MoE#Kernel Optimization#JIT Compilation#Code Refactoring#Performance2026년 10월 20일댓글 수 로딩 중
[flashinfer] FlashInfer의 CAKE FP8 GEMM 커널 최적화: 코드 간소화와 성능 향상FlashInfer의 CAKE FP8 GEMM 커널에서 코드 중복 제거, 라우팅 테이블 도입 등으로 성능을 개선한 PR 분석#FlashInfer#CUDA#GEMM#FP8#최적화#성능#소프트웨어 엔지니어링2026년 10월 20일댓글 수 로딩 중
[vllm] vLLM의 MoE 튜닝 스크립트 최적화: RDNA 아키텍처를 위한 성능 개선RDNA 아키텍처에서 MoE 튜닝 속도를 개선하고, 불필요한 탐색 공간 제거 및 안정성을 확보한 최적화 사례를 분석합니다.#vLLM#ROCm#Triton#MoE#Performance2026년 10월 20일댓글 수 로딩 중
[flashinfer] FlashInfer MoE 라우팅 최적화: 더 똑똑해진 전문가 선택으로 성능 향상FlashInfer의 MoE 라우팅 로직을 개선하여 전문가 선택 규칙을 최적화하고 성능을 향상시켰습니다.#AI#Machine Learning#Optimization#MoE#FlashInfer#Performance2026년 10월 19일댓글 수 로딩 중
[flashinfer] FlashInfer SM90 아키텍처 성능 최적화: QkvNormRopeExchangeOverlap의 Shape Gate 개선SM90(Hopper) 아키텍처에서 QKV 교환 시 small-row readiness gate를 활성화하여 통신 성능을 최대 1.19% 개선했습니다.#FlashInfer#CUDA#H100#Performance#Optimization2026년 10월 19일댓글 수 로딩 중
[flashinfer] Blackwell(SM100a) 성능 극대화: FlashInfer의 CTA-Pair 커널 최적화 분석FlashInfer의 Cake 백엔드에서 SM100a(B200)를 위한 CTA-pair 커널을 도입하여 특정 Shape에서 최대 10.1%의 성능 향상을 달성한 과정을 분석합니다.#FlashInfer#Blackwell#CUDA#Performance-Optimization#LLM-Inference2026년 10월 19일댓글 수 로딩 중
[flashinfer] FlashInfer, Kimi-K3 FP8 프로젝션 커널 공유 및 코드 최적화를 통한 성능 향상FlashInfer의 Kimi-K3 FP8 프로젝션 커널 공유 및 코드 최적화를 통해 성능을 크게 향상시킨 PR 분석#FlashInfer#FP8#GEMM#Kernel Optimization#Code Refactoring#Performance2026년 10월 19일댓글 수 로딩 중
[논문리뷰] World Model Interpretability: From Decoding Representations to Understanding Latent Worlds본 논문은 JEPA와 같은 최신 Latent World Model들이 복잡한 환경에서 예측과 계획을 수행하고 있음에도 불구하고, 이들의 내부 잠재 공간이 무엇을 의미하는지에 대한 이해가 부족하다는 점을 지적합니다 .#Review#Joint-Embedding Predictive Architectures#Latent World Models#Interpretability#Causal Verification#Representation Learning2026년 10월 19일댓글 수 로딩 중
[논문리뷰] Where is Physical RSI capability from? An Observational Scaling Law of LLM-as-policy본 논문은 frontier LLM 에이전트가 로봇 조작 작업에서 어떻게 물리적 피드백을 통해 정책을 개선하는지, 그 근본적인 메커니즘과 일반화 가능성을 탐구합니다.#Review#Physical RSI#LLM-as-policy#Scaling Law#Embodied AI#Robotic Manipulation#PhysRSI-eval2026년 10월 19일댓글 수 로딩 중
[논문리뷰] UniAVC: Unified Audio-Video Creation via Progressive Training and Asymmetric Scheduling본 논문은 기존의 오디오-비디오 생성 및 편집 도구들이 독립적으로 파편화되어 있어 sequential pipeline 구성 시 발생하는 cross-modal 일관성 저하 문제를 해결하고자 합니다.#Review#Audio-Video Generation#Unified Editing#Progressive Training#Asymmetric Scheduling#Latent Diffusion Models2026년 10월 19일댓글 수 로딩 중
[논문리뷰] Think Visually Across Space and Time: Grounded Reasoning for Video Segmentation기존 Video Reasoning Segmentation (VRS) 연구는 Chain-of-Thought (CoT) 추론을 사용하여 쿼리에 대한 중간 해석을 명시하지만, 추론 자체를 실제 scene에 ground하는 데 어려움이 있습니다.#Review#Video Reasoning Segmentation#Chain-of-Thought#Visual Primitives#Spatiotemporal Grounding#Reinforcement Learning#Mask Propagation2026년 10월 19일댓글 수 로딩 중
[논문리뷰] State World Models: Execute the Rules, Generate the Pixels기존 World Models는 액션에 따라 비디오를 생성할 수 있지만, 현재의 Interactive Video World Models는 탐색 제어를 제공함에도 불구하고 액션이 지속적인 규칙을 따르는지, 특히 결과가 현재 프레임에서 보이지 않는 Hidden State에 의존할 때 이를 보장하지 못하는 한계가 있다.#Review#World Models#Stateful Harness#Video Generation#Rule Execution#Hidden State#Counterfactual Pairs#Semantic State2026년 10월 19일댓글 수 로딩 중
[논문리뷰] SpecMRL: Redesign Matryoshka Representation Learning within Parametric Spectrum본 논문은 기존 Matryoshka Representation Learning (MRL)의 고정된(fixed) feature 공간 구조가 정보 압축에 비효율적이라는 문제점을 해결하고자 합니다.#Review#Matryoshka Representation Learning#Spectral Basis#Dimension Reduction#Parametric Spectrum#Embedding Compression#MTEB#Inference Efficiency#Orthogonal Iteration2026년 10월 19일댓글 수 로딩 중
[논문리뷰] Sparse Feature Policy Unlearning Mitigates State Hallucination in Vision-Language-Action Models본 논문은 VLA가 실제 환경에서 로봇-객체 상태를 오인하여 발생하는 State Hallucination 문제를 해결하는 것을 목적으로 합니다.#Review#Vision-Language-Action Models#State Hallucination#Sparse Autoencoders#Machine Unlearning#Robot Manipulation2026년 10월 19일댓글 수 로딩 중