[flashinfer] MoE prims-TS epilogue 최적화: NaN-aware min/max로 clamp 명령어를 절반으로, 그리고 host 입력 생성 기반 프로파일링PTX min/max.NaN으로 SwiGLU clamp를 4→2 명령어로 줄이고, 불필요한 SF floor max를 제거한 PR 분석#CUDA#PTX#MoE#Quantization#NVFP4#PyTorch#Profiling2026년 11월 16일댓글 수 로딩 중
[ollama] Ollama MLX Runner: 동시 요청에서도 Speculative Decoding을 유지하는 배치 검증동시 요청 시 꺼지던 drafting을 유지하고 여러 요청의 draft를 한 번의 forward로 검증해 TPS를 최대 91% 개선#Ollama#MLX#Speculative Decoding#Batching#Go#LLM Inference2026년 11월 16일댓글 수 로딩 중
[loki] Loki logline 인덱스에 OR-aware 힌트 needle 도입: 불리언 구조를 보존하는 쿼리 플래닝LogQL의 OR 필터를 needle.Expr로 변환하고 max_conjunctions로 DNF 확장을 제한하는 설계 분석#Loki#LogQL#Go#Query Planning#Indexing#Boolean Logic2026년 11월 16일댓글 수 로딩 중
[vllm] RDNA4에서 Sparse 명령어로 Dense Skinny GEMM 가속하기: vLLM의 SWMMAC N=5~8 커널 분석SWMMAC 희소 행렬 명령어로 N=5~8 skinny GEMM을 채워 RDNA4 서빙 처리량을 최대 23% 높인 기법#ROCm#RDNA4#GEMM#vLLM#GPU Kernel#SWMMAC2026년 11월 16일댓글 수 로딩 중
[onnxruntime] DeepSeek MLA를 위한 전용 연산자: ONNX Runtime MultiHeadLatentAttention CPU 커널 분석GQA 우회로 내보내던 absorbed MLA를 전용 op로 바꿔 캐시 절반, decode 최대 30배 가속#onnxruntime#attention#MLA#DeepSeek#MLAS#CPU-optimization#flash-attention2026년 11월 16일댓글 수 로딩 중
[flashinfer] FP8 Sage 블록 희소 어텐션 가속: SM100/SM103 Cake 커널, 결합 Quantize+Attention API, auto 백엔드아키텍처별 어텐션 빌드 선택, PDL, 호스트 오버헤드 제거로 eager 소형 shape 최대 3.8배 가속#FlashInfer#CUDA#FP8#SageAttention#Block-Sparse Attention#PDL#Blackwell2026년 11월 15일댓글 수 로딩 중
[flashinfer] 작은 shape를 위한 TMA-ring Sage-FP8 Quantizer: CUDA Graph에서 최대 1.23배 빨라진 SM100 Block-Sparse Attention작은 row에서 V cluster가 한 wave에 들어갈 때 TMA 기반 one-launch quantizer로 라우팅해 최대 23% 단축#FlashInfer#CUDA#TMA#FP8#Blackwell#CUDA Graph#Quantization2026년 11월 15일댓글 수 로딩 중
[sglang] SGLang Unified Memory 스케줄러의 Admission 호스트 작업 줄이기: 같은 질문은 한 번만 묻는다unified-memory admission의 중복 feasibility 계산을 memo와 조기 종료로 절반 줄인 PR 분석#SGLang#Memoization#Scheduler#KV Cache#Python#Performance2026년 11월 15일댓글 수 로딩 중
[sglang] 커널 내부를 들여다보는 법: SGLang JIT 커널에 IKET/%clock 기반 In-kernel 이벤트 트레이싱 도입warp 단위 range/mark로 커널 내부 시간 분포를 측정하는 디버깅 전용 트레이서 분석#CUDA#SGLang#Profiling#JIT#PTX#IKET2026년 11월 15일댓글 수 로딩 중
[sglang] gfx1250에서 RCCL을 넘어서다: ring_simple all-reduce와 unrolled 2shot_push 분석gfx1250 custom all-reduce에 ring과 unrolled 2shot_push를 더해 4GB까지 RCCL보다 빠르게#AMD#ROCm#all-reduce#GPU#sglang#distributed#HIP2026년 11월 15일댓글 수 로딩 중
[논문리뷰] eDMD: Endpoint Distribution Matching for Few-Step Diffusion Distillation요약을 작성하지 못했습니다. 논문 페이지를 열 수 없었기 때문입니다.#Review2026년 11월 15일댓글 수 로딩 중
[논문리뷰] eDIAR: Training-Free Open-Speaker Streaming Diarization for Long Meetings and Large Archives via e-means요약을 작성하지 못했습니다. 논문을 끝내 불러오지 못했기 때문입니다. 첫 시도와 재시도에서 https://arxiv.org/html/2611.18529가 계속 too_many_requests(요청 과다) 오류를 반환했고, 이후 도구 사용 한도를 초과했습니다.#Review2026년 11월 15일댓글 수 로딩 중
[논문리뷰] WebArena-Pro: A Heterogeneous, Multimodal, Reproducible Benchmark for Web Agents요청하신 형식의 요약은 작성하지 못했습니다. 논문 페이지를 열 수 없었고, 원문을 읽지 않고 쓰면 내용을 지어낼 수밖에 없기 때문입니다.#Review2026년 11월 15일댓글 수 로딩 중
[논문리뷰] VibePrevisBench: Evaluating Agentic Coding for 4D Scene Generation in BlenderYuzhe Chen이 arXiv에 게시한 'VibePrevisBench: Evaluating Agentic Coding for 4D Scene Generation in Blender' 논문에 대한 자세한 리뷰입니다.#Review2026년 11월 15일댓글 수 로딩 중
[논문리뷰] V-JEPA-LM: Video-Language Models That Read Dynamics Beyond Static, Text-Aligned Representations제공해주신 URL(https://arxiv.org/html/2611.17831)의 논문을 가져오지 못해서 요약을 작성할 수 없었습니다.#Review2026년 11월 15일댓글 수 로딩 중
[논문리뷰] Rethinking in Spikes: Mitigating Hallucinations in MDLMs with Step-Aware Decoding요청하신 요약을 작성하지 못했습니다. 논문 페이지를 불러올 수 없었습니다.#Review2026년 11월 15일댓글 수 로딩 중
[논문리뷰] Restoring Diversity in Distilled Image and Video Generators by Probing Activations논문 본문을 가져오지 못해서 요청하신 요약을 작성할 수 없습니다.#Review2026년 11월 15일댓글 수 로딩 중
[논문리뷰] Re-Search: Dissecting LLM Ideation Through a Two-Player Questioning Game이 논문은 기존 evaluation이 LLM research ideation의 iterative search process를 보여주지 못한다는 문제를 다룹니다. 그래서 ideation을 execution과 분리해 단계별로 관찰할 수 있는 testbed를 제안합니다.#Review#Research Ideation#Twenty Questions#Information Seeking#Hypothesis Space#Exploration-Exploitation#Autoresearch#LLM Evaluation2026년 11월 15일댓글 수 로딩 중
[논문리뷰] Parsed, Plausible, Wrong: Output Format Controls Silent Errors in Small-Model Semantic ParsingUmar Ahmed이 arXiv에 게시한 'Parsed, Plausible, Wrong: Output Format Controls Silent Errors in Small-Model Semantic Parsing' 논문에 대한 자세한 리뷰입니다.#Review2026년 11월 15일댓글 수 로딩 중
[논문리뷰] OneSteer: Unlocking Steerable General Humanoid Motion Tracking via One-Step Diffusion Whole-Body Control이 논문은 기존 general humanoid motion tracker가 deterministic feed-forward policy라서, 배포 후 새로운 제약이나 objective가 생겨도 retraining 없이는 행동을 바꿀 수 없다는 문제를 다룹니다.#Review#Humanoid Whole-Body Control#Motion Tracking#One-Step Diffusion#Test-Time Steering#Model-Based Reinforcement Learning#Uncertainty Estimation#Sim-to-Real2026년 11월 15일댓글 수 로딩 중