[loki] Loki LogQL: 파서 뒤 label filter를 미리 검사해 통과할 수 없는 로그 라인의 파싱 건너뛰기json/logfmt/regexp 파서가 필터 값이 없는 라인을 파싱 전에 버려 최대 89% 단축#Loki#LogQL#Go#Performance#Query Optimization2026년 11월 17일댓글 수 로딩 중
[flashinfer] SM100/SM103 Sage FP8 Block-Sparse Attention: 타일 에필로그 오버랩과 Tail Split 병렬 폴딩으로 최대 6.9% 가속별도 warpgroup이 타일 출력 merge/store를 맡아 다음 타일과 겹치게 하는 p3 빌드 도입기#CUDA#FlashInfer#Attention#Blackwell#FP8#Kernel Optimization2026년 11월 17일댓글 수 로딩 중
[flashinfer] NVFP4 KV 캐시를 키당 한 번만 FP8로: Token-Sparse Attention 변환 경로 최적화요청 단위로 선택된 키를 한 번만 변환해 prefill 5695→56µs, decode 최대 12배 단축#FlashInfer#Triton#NVFP4#FP8#Sparse Attention#CUDA Graph#Blackwell2026년 11월 17일댓글 수 로딩 중
[vllm] vLLM PP 전송을 Copy Engine으로: TP>1, PCP>1, 멀티노드 NVLink(GB300 NVL72)까지 확장하기NCCL 대신 CUDA copy engine으로 PP 텐서를 옮기는 경로를 TP>1·멀티노드 NVLink로 넓혀 포화 부하 TTFT를 최대 34% 줄였다#vLLM#Pipeline Parallelism#CUDA#NVLink#NCCL#GB300#Distributed Inference2026년 11월 17일댓글 수 로딩 중
[sglang] Kimi K3 Prefill Context Parallelism: MLA만 토큰 샤딩하고 KDA/MoE는 TP로 유지하는 하이브리드 CP 설계Kimi K3/Kimi-Linear에 CP-TP group sharing을 확장해 SP residual과 함께 prefill 15~17% 단축#sglang#context-parallelism#Kimi-K3#MLA#linear-attention#prefill2026년 11월 17일댓글 수 로딩 중
[flashinfer] MoE prims-TS epilogue 최적화: NaN-aware min/max로 clamp 명령어를 절반으로, 그리고 host 입력 생성 기반 프로파일링PTX min/max.NaN으로 SwiGLU clamp를 4→2 명령어로 줄이고, 불필요한 SF floor max를 제거한 PR 분석#CUDA#PTX#MoE#Quantization#NVFP4#PyTorch#Profiling2026년 11월 16일댓글 수 로딩 중
[ollama] Ollama MLX Runner: 동시 요청에서도 Speculative Decoding을 유지하는 배치 검증동시 요청 시 꺼지던 drafting을 유지하고 여러 요청의 draft를 한 번의 forward로 검증해 TPS를 최대 91% 개선#Ollama#MLX#Speculative Decoding#Batching#Go#LLM Inference2026년 11월 16일댓글 수 로딩 중
[loki] Loki logline 인덱스에 OR-aware 힌트 needle 도입: 불리언 구조를 보존하는 쿼리 플래닝LogQL의 OR 필터를 needle.Expr로 변환하고 max_conjunctions로 DNF 확장을 제한하는 설계 분석#Loki#LogQL#Go#Query Planning#Indexing#Boolean Logic2026년 11월 16일댓글 수 로딩 중
[vllm] RDNA4에서 Sparse 명령어로 Dense Skinny GEMM 가속하기: vLLM의 SWMMAC N=5~8 커널 분석SWMMAC 희소 행렬 명령어로 N=5~8 skinny GEMM을 채워 RDNA4 서빙 처리량을 최대 23% 높인 기법#ROCm#RDNA4#GEMM#vLLM#GPU Kernel#SWMMAC2026년 11월 16일댓글 수 로딩 중
[onnxruntime] DeepSeek MLA를 위한 전용 연산자: ONNX Runtime MultiHeadLatentAttention CPU 커널 분석GQA 우회로 내보내던 absorbed MLA를 전용 op로 바꿔 캐시 절반, decode 최대 30배 가속#onnxruntime#attention#MLA#DeepSeek#MLAS#CPU-optimization#flash-attention2026년 11월 16일댓글 수 로딩 중
[논문리뷰] Zuse: A Decision Model for European Languages이 논문은 decision model 설계가 영어 밖의 유럽 언어에서도 통하는지, 그리고 그 환경에서 calibration과 automation 가능성을 무엇이 좌우하는지 처음으로 체계적으로 검증합니다.#Review#Decision Model#LoRA#Pointer Head#Calibration#Selective Prediction#Multilingual Evaluation#Prompt Injection#Shortcut Learning2026년 11월 16일댓글 수 로딩 중
[논문리뷰] When Expert Disagreement Hurts: Prestige and Selectivity in LLM Decision Revision이 논문은 LLM이 다른 agent의 반대 의견을 받고 결정을 바꿀 때, 그것이 오류 수정인지 아니면 정답을 포기하는 것인지 구분할 수 없다는 문제를 다룹니다.#Review#LLM Decision Revision#Authority Bias#Sycophancy#Source Credibility#Multi-Agent Debate#Evaluation Metrics#Evidence-Grounded QA2026년 11월 16일댓글 수 로딩 중
[논문리뷰] ViRA: Toward Ultra-High-Resolution Visual Agents via Cross-Input Relative Policy Optimization논문 페이지를 불러오지 못해서 요약을 작성하지 않았습니다.#Review2026년 11월 16일댓글 수 로딩 중
[논문리뷰] UMM-JEPA: Generative Pretraining via Masked Next-Scale Representation Prediction for Unified Multimodal Models요청하신 요약을 작성하지 못했습니다. 논문 페이지를 불러오지 못했기 때문입니다.#Review2026년 11월 16일댓글 수 로딩 중
[논문리뷰] Termination Lag: Coding Agents Solve Early but Stop Late이 논문은 coding agent가 정답 patch를 언제 처음 만들었는지, 그리고 그 뒤로 얼마나 불필요하게 계속 작동하는지가 기존 final-patch 평가로는 드러나지 않는다는 문제를 다룬다. SWE-bench 같은 benchmark는 최종 제출 patch의 correctness만 채점한다.#Review#Coding Agents#Termination Lag#SWE-bench#Time to First Correct Patch#Agent Efficiency#Stopping Behavior#Software Engineering Agents2026년 11월 16일댓글 수 로딩 중
[논문리뷰] ScaleVLA: Scaling Vision-Language-Action Models to 552 Billion ParametersRuixi Yu이 arXiv에 게시한 'ScaleVLA: Scaling Vision-Language-Action Models to 552 Billion Parameters' 논문에 대한 자세한 리뷰입니다.#Review2026년 11월 16일댓글 수 로딩 중
[논문리뷰] Sage S2.1 Flash Technical Report요약을 작성하지 못했습니다. 논문 페이지를 열 수 없었습니다.#Review2026년 11월 16일댓글 수 로딩 중
[논문리뷰] SWE-CoWork: Benchmarking Coding Agents as Digital Employees in Organizations이 논문은 기존 coding benchmark가 coding agent를 미리 범위가 정해진 spec을 수행하는 'spec executor'로만 평가하고, 조직 안에서 요구사항을 직접 확보하고 검증된 결과를 인계하는 능력은 측정하지 못한다는 문제를 다룹니다.#Review#Coding Agents#Software Engineering Benchmark#Digital Employees#Requirement Elicitation#Multi-Agent Collaboration#Fail-to-Pass Testing#Trajectory Analysis2026년 11월 16일댓글 수 로딩 중
[논문리뷰] SPILLWAY: Separating Target Admission from Sanitization to Defend Tool-Using Agents against Prompt Injection이 논문은 기존 prompt injection 방어가 action의 허용 여부를 attacker text를 읽을 수 있는 LLM에 맡긴다는 점을 문제로 봅니다. 그 결과 보안이 model 판단에 좌우되고, 매 step마다 model call 비용이 추가된다는 것입니다.#Review#Indirect Prompt Injection#Tool-Using Agents#Egress Control#Input Sanitization#Typed Identity#AgentDojo#LLM-as-a-Judge#Agent Security2026년 11월 16일댓글 수 로딩 중