[flashinfer] SM120 FP8 Groupwise GEMM에 Swap-AB 소형 타일 도입: 디코드 구간 최대 1.9× 가속128×128 단일 타일 대신 m에 따라 swap-AB 128×32/128×64를 고르고 wave gate로 회귀를 막은 사례#CUDA#CUTLASS#GEMM#FP8#Blackwell#LLM Inference2026년 11월 18일댓글 수 로딩 중
[flashinfer] FlashInfer Sage FP8 Block-Sparse Attention: double-S + 분리된 epilogue warpgroup로 타일 겹치기double-S 버퍼와 별도 epilogue warpgroup, SM103 tail-split 라우팅으로 최대 1.099x 가속#CUDA#FlashInfer#Attention#Blackwell#FP8#Kernel Optimization2026년 11월 18일댓글 수 로딩 중
[flashinfer] 듀얼 다이 GPU에서 '내 다이의 메모리부터 읽기': Cake FP8 Grouped GEMM의 Locality-Domain 최적화SM107a 듀얼 다이에서 expert weight를 다이별로 homing해 MoE FP8 GEMM을 최대 1.34배 가속#CUDA#FP8#GEMM#MoE#NUMA#FlashInfer#GPU Memory#Rubin2026년 11월 18일댓글 수 로딩 중
[flashinfer] Batch-invariant attention을 Rubin에 맞춰 재배치하기: 결과 비트는 그대로 두고 decode launch grid, PDL, 하드웨어 row max 손보기비트 동일성을 지키면서 launch grid, PDL, 레지스터 배치를 조정해 Rubin에서 최대 1.66배 빨라진 사례#FlashInfer#CUDA#Attention#Blackwell#PDL#CuTe DSL#Performance2026년 11월 18일댓글 수 로딩 중
[cpython] CPython int 덧셈의 '혹시 몰라 할당한 1 digit' 없애기: x_add() 과할당 줄이기x_add()가 매번 carry용 digit을 미리 할당하던 관행을 top digit 검사로 바꿔 메모리와 속도를 개선#CPython#C#Performance#Memory#BigInt2026년 11월 18일댓글 수 로딩 중
[loki] Loki LogQL: 파서 뒤 label filter를 미리 검사해 통과할 수 없는 로그 라인의 파싱 건너뛰기json/logfmt/regexp 파서가 필터 값이 없는 라인을 파싱 전에 버려 최대 89% 단축#Loki#LogQL#Go#Performance#Query Optimization2026년 11월 17일댓글 수 로딩 중
[flashinfer] SM100/SM103 Sage FP8 Block-Sparse Attention: 타일 에필로그 오버랩과 Tail Split 병렬 폴딩으로 최대 6.9% 가속별도 warpgroup이 타일 출력 merge/store를 맡아 다음 타일과 겹치게 하는 p3 빌드 도입기#CUDA#FlashInfer#Attention#Blackwell#FP8#Kernel Optimization2026년 11월 17일댓글 수 로딩 중
[flashinfer] NVFP4 KV 캐시를 키당 한 번만 FP8로: Token-Sparse Attention 변환 경로 최적화요청 단위로 선택된 키를 한 번만 변환해 prefill 5695→56µs, decode 최대 12배 단축#FlashInfer#Triton#NVFP4#FP8#Sparse Attention#CUDA Graph#Blackwell2026년 11월 17일댓글 수 로딩 중
[vllm] vLLM PP 전송을 Copy Engine으로: TP>1, PCP>1, 멀티노드 NVLink(GB300 NVL72)까지 확장하기NCCL 대신 CUDA copy engine으로 PP 텐서를 옮기는 경로를 TP>1·멀티노드 NVLink로 넓혀 포화 부하 TTFT를 최대 34% 줄였다#vLLM#Pipeline Parallelism#CUDA#NVLink#NCCL#GB300#Distributed Inference2026년 11월 17일댓글 수 로딩 중
[sglang] Kimi K3 Prefill Context Parallelism: MLA만 토큰 샤딩하고 KDA/MoE는 TP로 유지하는 하이브리드 CP 설계Kimi K3/Kimi-Linear에 CP-TP group sharing을 확장해 SP residual과 함께 prefill 15~17% 단축#sglang#context-parallelism#Kimi-K3#MLA#linear-attention#prefill2026년 11월 17일댓글 수 로딩 중
[논문리뷰] π^4: A Foundation Model for 4D Scene Geometry and Motion논문 페이지를 불러오지 못해서 요약을 작성할 수 없었습니다. https://arxiv.org/html/2611.23144에 여러 번 접속했지만 매번 too_many_requests(요청 횟수 제한) 오류가 났고, 도구 사용 한도에 도달해 이번 대화에서는 더 시도할 수 없습니다.#Review2026년 11월 17일댓글 수 로딩 중
[논문리뷰] WeightBench: Evaluating Language Models as Weight-Space Programmers이 논문은 LLM이 WSP를 얼마나 reliable하게 수행하는지 체계적으로 측정하는 benchmark가 없다는 문제를 다룹니다.#Review#Weight-Space Programming#Large Language Models#Neural Network Editing#Benchmarking#LLM Agents#Data-Free Compression#Model Editing2026년 11월 17일댓글 수 로딩 중
[논문리뷰] Weight-Space Programming Doesn't Need Transformers논문 내용을 가져오지 못해서 요약을 작성할 수 없습니다.#Review2026년 11월 17일댓글 수 로딩 중
[논문리뷰] VisualArtifactSpec 1.0: Evaluating Visual Artifacts under Task Specifications이 논문은 기존 benchmark로는 artifact family 전반에서 authoring choice가 audience, purpose, medium에 적합한지를 체계적으로 평가할 수 없다는 문제를 다룹니다.#Review#Visual Artifact Generation#Benchmark#Rubric-Based Evaluation#Task Fulfillment#Artifact Performance#Multimodal Agent-as-a-Judge#Audience Alignment2026년 11월 17일댓글 수 로딩 중
[논문리뷰] VideoNexus: Video Perception Beyond the Reasoning Context이 논문이 다루는 핵심 문제는 long video agent에서 '무엇을 관찰할 것인가'와 'reasoning context에 무엇을 남길 것인가'가 결합(coupling)되어 있다는 점입니다.#Review#Long Video Understanding#Video Agents#Delegated Perception#Context Management#Temporal Grounding#Model Context Protocol#Training-free Framework2026년 11월 17일댓글 수 로딩 중
[논문리뷰] Unreasonable Confidence from Simulator Misspecification: Directional Robustness on the SPEED+ Sim-to-Real Benchmark논문 페이지를 불러오지 못해서 요약을 작성할 수 없습니다.#Review2026년 11월 17일댓글 수 로딩 중
[논문리뷰] The novelty exposed: ablation, reproducibility and transparency in 40 technical reports of open-weight large language models (LLMs)요청하신 요약은 작성하지 못했습니다. 논문 페이지를 열 수 없었기 때문입니다.#Review2026년 11월 17일댓글 수 로딩 중
[논문리뷰] The Noise Floor of a Quantization Comparison: Engine, restart, batch and kernel drift, measured against 8-bit and 4-bit effects in two decision models이 논문은 quantization 비교에 섞여 있는 비(非)quantization 변동을 분리해 측정하고, 이를 기준으로 quantization effect의 실제 크기를 밝히려 한다.#Review#Quantization#Flip Rate#Nondeterminism#Inference Engine#NVFP4#GGUF#Pre-registration#Decision Models2026년 11월 17일댓글 수 로딩 중
[논문리뷰] TeleChat to Xing4: Advancing Frontier Agentic Models on Domestic Chips and Frameworks이 논문이 다루는 핵심 문제는 GPU가 아닌 국산 chip(Ascend 910C)과 framework(MindSpore)만으로 frontier급 agentic MoE 모델을 효율적으로 설계하고 학습하는 것입니다.#Review#Mixture-of-Experts#Sparse Attention#Speculative Decoding#Hybrid Sharded Data Parallelism#Ascend NPU#Agentic Reinforcement Learning#Long-Context LLM2026년 11월 17일댓글 수 로딩 중
[논문리뷰] TPHC: Improving Hyper-Connections with Tensor-Parallel Grouped Updates요약을 작성하지 못했습니다. 논문 페이지(https://arxiv.org/html/2611.23026)를 불러올 수 없었습니다.#Review2026년 11월 17일댓글 수 로딩 중