[논문리뷰] Molt: A Scalable PyTorch-Native Training Framework for Agentic Reinforcement Learning본 논문은 기존의 대규모 강화학습 프레임워크가 가진 복잡성으로 인해 연구자의 반복적인 알고리즘 개선 과정에 큰 오버헤드가 발생하는 문제를 해결하고자 합니다.#Review#Agentic Reinforcement Learning#PyTorch-native#Scalable Training#LLM#Asynchronous Loop#Token-exact#FSDP22026년 7월 26일댓글 수 로딩 중
[논문리뷰] LAMAR: An Open Language-Aware Multilingual Alignment Reranker본 논문은 기존의 다국어 Reranker들이 Semantic Relevance만을 주로 고려하여 학습되어, 쿼리 언어와 일치하는 문서(same-language documents)를 일관되게 우선순위로 두지 못하는 문제를 해결하고자 한다.#Review#Multilingual Reranker#Language Coherence#Semantic Relevance#Retrieval-Augmented Generation (RAG)#Cross-Encoder#Knowledge Distillation#Preference Alignment2026년 7월 26일댓글 수 로딩 중
[논문리뷰] IDEAgent: Agentic Quality-Diversity Search for Research Idea Generation본 논문은 기존 AI 기반 연구 아이디어 생성 시스템들이 품질(Quality)과 다양성(Diversity)을 독립적인 최적화 문제로 다루어 발생하는 Conceptual Collapse 문제를 해결하고자 합니다.#Review#LLM#Scientific Discovery#Quality-Diversity Search#Multi-agent Framework#Idea Ideation#Research Lineage2026년 7월 26일댓글 수 로딩 중
[논문리뷰] DataPrep-Bench: Benchmarking LLMs as Training Data Preparators본 논문은 LLM 기반의 데이터 준비(Data Preparation) 과정이 파편화되어 있고, 성능 평가 기준이 모호하다는 문제를 해결하기 위해 DataPrep-Bench를 제안합니다 .#Review#LLM-driven Data Preparation#Data Construction#Data Quality Evaluation#Distributional Alignment Score (DAS)#Downstream-grounded Benchmark#Supervised Fine-tuning (SFT)2026년 7월 26일댓글 수 로딩 중
[논문리뷰] Closing the Loop: Training-Free Revisit Consistency for Autoregressive Generative Rendering본 논문은 장시간의 스트리밍 생성 과정에서 발생하는 revisit inconsistency 문제를 해결하기 위해 제안되었습니다.#Review#Generative Rendering#Autoregressive Video Generation#Loop-Closure#KV Cache#Geometry-Guided Attention#Training-Free2026년 7월 26일댓글 수 로딩 중
[논문리뷰] Agentic Context Management: Solving Agent Memory and Cost by Treating Them as Lifecycle and Architecture Problems본 논문은 프로덕션 환경의 AI 에이전트가 겪는 성능 한계가 Reasoning 능력 부족이 아닌, 컨텍스트 관리에 대한 체계 부재에서 기인한다고 정의합니다.#Review#Agentic Context Management#LLM Agents#Context Lifecycle#Validated Compaction#Retrieval-Augmented Generation#Multi-tenant Architecture2026년 7월 26일댓글 수 로딩 중
[sglang] [DeepSeek-V4 최적화] SM120(Blackwell)에서 Fused MHC 커널 활성화로 성능 8.9% 향상시키기SM120 아키텍처에서 잘못된 플래그 게이팅을 수정하여 DeepSeek-V4의 Fused MHC 커널을 활성화하고 디코드 성능을 대폭 개선했습니다.#DeepSeek-V4#SM120#Blackwell#Kernel Fusion#SGLang#Performance2026년 7월 26일댓글 수 로딩 중
[ultralytics] Ultralytics FLOPs 프로파일링 최적화: deepcopy 제거를 통한 성능 향상모델 복사본 생성 없이 직접 프로파일링하여 FLOPs 계산 속도를 2.5배 향상시킨 최적화 사례를 소개합니다.#PyTorch#Performance#Optimization#Ultralytics#FLOPs2026년 7월 26일댓글 수 로딩 중
[vllm] vLLM 멀티모달 처리 성능 개선: MM 전처리를 위한 별도 Executor 도입vLLM에서 멀티모달 요청 처리 시 토크나이저와 MM 전처리 간의 경합을 제거하여 성능을 향상시킵니다.#vLLM#성능 최적화#멀티모달#병렬 처리#Executor2026년 7월 26일댓글 수 로딩 중
[vllm] vLLM DeepSeek-OCR-2 모델의 TTFT 성능 최적화 분석DeepSeek-OCR-2의 CPU 병목인 4D 마스크 생성 로직을 텐서 연산 및 캐싱으로 최적화하여 TTFT를 1.8배 개선했습니다.#vLLM#DeepSeek-OCR-2#Performance#TTFT#PyTorch2026년 7월 26일댓글 수 로딩 중
[vllm] vLLM KV Offload 최적화: Tensor Parallelism 환경에서 MLA KV 캐시 복제본 제거하기vLLM에서 Tensor Parallelism 사용 시 MLA KV 캐시 복제본을 제거하여 CPU 메모리 및 D2H 트래픽을 최적화하는 방법을 분석합니다.#vLLM#KV Cache#Offloading#Tensor Parallelism#MLA#Optimization2026년 7월 26일댓글 수 로딩 중
[vllm] vLLM: PyNvVideoCodec 하드웨어 디코더 동시성 최적화로 비디오 처리량 94% 향상vLLM의 PyNvVideoCodec 디코더 동시성 설정 가능화로 비디오 처리량 최대 94% 개선.#vLLM#PyNvVideoCodec#GPU#Video Decoding#Optimization#Concurrency#Multimodal2026년 7월 25일댓글 수 로딩 중
[cpython] asyncio 프로토콜 데이터 처리 최적화: O(N^2)에서 O(N)으로asyncio 프로토콜의 데이터 처리 방식 개선으로 성능을 O(N^2)에서 O(N)으로 향상시켰습니다.#python#asyncio#performance#optimization#cpython2026년 7월 25일댓글 수 로딩 중
[sglang] SGLang NGRAM 성능 최적화: 호스트 기반 트리 링크 유도로 GPU 병목 제거하기NGRAM 추론 시 발생하는 불필요한 GPU-CPU 동기화(readback)를 제거하여 처리량을 8.3% 향상시킨 최적화 사례를 분석합니다.#SGLang#LLM#Speculative Decoding#Performance Optimization#CUDA2026년 7월 25일댓글 수 로딩 중
[sglang] SGLang의 Marlin MoE 커널 최적화: JIT 컴파일 시간 특화와 점유율 기반 스케줄링Marlin MoE 커널의 분기 제거 및 점유율 최적화를 통해 Kimi-K2.7 모델의 Prefill 성능을 약 4% 향상시킨 사례 분석#SGLang#CUDA#Marlin#MoE#Performance2026년 7월 25일댓글 수 로딩 중
[vllm] vLLM, 캐싱 비활성화 시 불필요한 LRU 해시 분할 제거로 디코드 처리량 3.5% 향상vLLM에서 캐싱 비활성화 시 불필요한 LRU 해시 분할 로직을 제거하여 디코드 처리량을 개선한 PR 분석.#vLLM#성능 최적화#LLM#GPU 캐싱#LRU2026년 7월 25일댓글 수 로딩 중
[triton] Triton Blackwell 커널의 MXFP8 활성화 스케일 최적화: Zero Padding 전략Blackwell 아키텍처에서 MXFP8 활성화 스케일 저장 시 발생하는 성능 저하를 Producer 측의 Zero Padding으로 해결한 사례 분석.#Triton#Blackwell#MXFP8#KernelOptimization#GPU2026년 7월 24일댓글 수 로딩 중
[flashinfer] FlashInfer의 FP8 양자화 AllReduce를 통한 통신 대역폭 최적화FP8 양자화를 통해 AllReduce 통신량을 절반으로 줄여 대규모 모델 학습의 NVLink 병목을 해결합니다.#FlashInfer#AllReduce#FP8#Quantization#NVLink#Triton2026년 7월 24일댓글 수 로딩 중
[vllm] vLLM, Blackwell 아키텍처를 위한 디코드 성능 최적화: GLM-5.2 및 DeepSeek-V3.2 지원 강화vLLM이 Blackwell GPU에서 GLM-5.2 및 DeepSeek-V3.2 모델의 디코드 성능을 대폭 향상시키는 최적화를 소개합니다.#vLLM#Blackwell#GLM-5.2#DeepSeek-V3.2#성능 최적화#GPU 컴퓨팅#LLM2026년 7월 24일댓글 수 로딩 중
[onnxruntime] ONNX Runtime: Blackwell (SM120+)에서 NVFP4 QMoE를 위한 네이티브 FP4xFP4 Prefill 최적화ONNX Runtime이 Blackwell GPU에서 NVFP4 QMoE의 FP4xFP4 prefill 경로를 최적화하고, SM120 빌드 오류를 해결한 PR 분석.#ONNXRuntime#CUDA#FP4#Quantization#Blackwell#SM120#CUTLASS#Optimization#MoE2026년 7월 24일댓글 수 로딩 중