[onnxruntime] ONNX Runtime WebGPU: NVIDIA GPU를 위한 FlashAttention 루프 언롤링 최적화NVIDIA GPU 환경에서 FlashAttention의 QK/PV 연산을 언롤링하여 성능을 최대 80% 향상시킨 최적화 기법을 분석합니다.#ONNX Runtime#WebGPU#FlashAttention#Performance Optimization#WGSL2026년 11월 4일댓글 수 로딩 중
[vllm] vLLM, H200 GPU를 위한 FP8 MoE 다운 프로젝션 최적화: TMA 활용 및 커널 퓨전으로 7.6% 처리량 향상vLLM이 H200 GPU에서 FP8 MoE 모델의 다운 프로젝션 성능을 TMA와 커널 퓨전으로 개선하여 처리량을 높였습니다.#vLLM#H200#FP8#MoE#TMA#Triton#최적화#성능 향상2026년 11월 4일댓글 수 로딩 중
[vllm] vLLM 스케줄러 최적화: Cache-aware Admission으로 KV 캐시 효율 극대화하기FCFS의 한계를 넘어, 캐시 상태를 고려한 요청 순서 재정렬로 재연산을 줄이고 성능을 높이는 방법.#vLLM#LLM Serving#Scheduling#KV Cache#Optimization2026년 11월 4일댓글 수 로딩 중
[onnxruntime] ONNX Runtime CPU QMoE 최적화: INT2 AVX-512/AVX2 커널 도입 및 수치 안정성 개선QMoE CPU 실행을 위한 고성능 INT2 커널 추가와 수치적 안정성을 위한 정밀한 반올림 정책 및 오버플로우 방지 기법을 분석합니다.#ONNX Runtime#QMoE#AVX-512#SIMD#Optimization2026년 11월 4일댓글 수 로딩 중
[ultralytics] Ultralytics Plotting 최적화: PIL 기반 시각화 속도를 최대 15배 향상시킨 비결PIL 기반 시각화 속도를 최대 15배 향상시킨 Ultralytics의 최신 Plotting 최적화 분석#Ultralytics#Python#Optimization#Computer Vision#PIL#OpenCV2026년 11월 3일댓글 수 로딩 중
[transformers] Hugging Face Transformers Pipelines: 지연 로딩으로 초기화 성능 대폭 개선Transformers 라이브러리의 pipelines 모듈이 지연 로딩으로 변경되어 초기 로딩 속도와 메모리 사용량이 크게 개선되었습니다.#HuggingFace#Transformers#Python#성능 최적화#지연 로딩#모듈 임포트#CI/CD2026년 11월 3일댓글 수 로딩 중
[flashinfer] Blackwell과 그 너머를 위한 최적화: FlashInfer의 Chain-Aware State Walk 개선 분석FlashInfer의 KCP 패키지에서 세그먼트 길이에 따른 가변 Value Width 선택 로직을 도입하여 Blackwell(B200) 등 최신 GPU에서 최대 11%의 성능 향상을 달성했습니다.#FlashInfer#CUDA#LLM-Optimization#Blackwell#Deep-Learning2026년 11월 3일댓글 수 로딩 중
[flashinfer] FlashInfer: FP8 64-head 디코딩 성능 최적화 및 Programmatic Dependent Launch 도입FlashInfer의 FP8 64-head 디코딩 성능을 최적화하고 PDL을 도입하여 GPU 활용도를 높인 PR 분석#FlashInfer#GPU 최적화#FP8#LLM#성능 개선#Programmatic Dependent Launch2026년 11월 3일댓글 수 로딩 중
[onnxruntime] ONNX Runtime: CUDA 기반 MoE 추론을 위한 INT3 최적화 및 스트리밍 성능 개선INT3 그룹화 오프로드, 제로 콜드 도어벨 최적화 및 다중 스레드 웨이브 스테이징을 통한 MoE 추론 성능 극대화.#ONNX Runtime#CUDA#MoE#INT3#Optimization2026년 11월 3일댓글 수 로딩 중
[논문리뷰] You don't need long context본 논문은 LLM의 컨텍스트 길이가 길어질수록 추론의 Latency, Memory Footprint, Monetary Cost가 선형적으로 증가하여 비효율을 초래한다는 문제를 제기한다.#Review#Long Context#Context Compaction#Large Language Models#Agentic Workflows#Inference Latency#Computational Efficiency#Semantic State Space Models2026년 11월 3일댓글 수 로딩 중
[논문리뷰] YANAMI: A Large-Scale Multimodal Dataset and Benchmark for Multiturn Stateful InteractionCurrent Unified Multimodal Models (UMMs)는 이미지 이해, 생성 및 편집 기능을 통합하지만 기존 데이터셋 및 벤치마크는 주로 single-turn tasks에 초점을 맞추고 있어, 복잡한 multi-turn multimodal interaction에 대한 supervision과 evaluation이 제한적이다.#Review#Multimodal Dataset#Stateful Interaction#Dialogue System#Unified Multimodal Models#Visual Reasoning#Image Editing#Benchmark#VLM-as-a-Judge2026년 11월 3일댓글 수 로딩 중
[논문리뷰] Words Caught in the Heart: Simulating Person-Specific Expression for Self-Opaque Clients in Psychotherapy기존 LLM 기반 심리 치료 클라이언트 시뮬레이터들은 종종 클라이언트의 실제 현재 이해도나 감정 상태가 허용하는 것보다 더 명확하게 어려움을 설명하는, 과도하게 논리적이거나 유창한 반응을 생성하는 핵심적인 문제에 직면해 있다.#Review#Psychotherapy Client Simulation#Large Language Models#Individual Expression#Expression Planning#Disclosure Alignment#Expression Fidelity#AI-like Expression2026년 11월 3일댓글 수 로딩 중
[논문리뷰] Where to Learn and How Far to Roll Out: Efficient Adaptive Training for GUI Agents본 논문은 GUI 에이전트 학습 시 발생하는 과도한 환경 상호작용 비용과 비효율적인 크레딧 할당 문제를 해결하는 것을 목표로 합니다. 기존의 Vanilla GRPO는 태스크의 루트(Root)에서 항상 전체 궤적을 롤아웃해야 하므로, 이미 마스터한 초기 단계까지 반복적으로 실행하는 비효율성이 존재합니다 .#Review#GUI Agents#Reinforcement Learning#Adaptive Training#Action Disagreement#Checkpointing#GRPO#Trajectory Optimization2026년 11월 3일댓글 수 로딩 중
[논문리뷰] What We Keep of What We Forget: Replacement Operators and Routing Semantics in Training-Free MoE Expert Pruning본 논문은 MoE 모델 압축 시 간과되어 온 Replacement Operator 선택의 불확실성과 라우팅 의미론(Routing Semantics)이 성능에 미치는 영향을 해결하고자 합니다.#Review#Mixture-of-Experts#Expert Pruning#Model Compression#Routing#Calibration#Training-Free2026년 11월 3일댓글 수 로딩 중
[논문리뷰] WebHarbor: Docking Real Websites for Evolving GUI Agent Environments본 연구는 GUI 웹 에이전트의 안정적인 학습과 평가를 가로막는 실제 웹사이트 환경의 가변성(content drift), 접근 제한, 봇 탐지 문제를 해결하는 것을 목표로 합니다.#Review#GUI Web Agents#Reinforcement Learning#Environment Synthesis#Authenticated Workflows#Task-Driven Docking#Dockerized Environments2026년 11월 3일댓글 수 로딩 중
[논문리뷰] VidUEU-Agent: A Data-Curation Agent for Multimodal Understanding, Editing, and Unified Tasks본 논문은 고품질 instruction 데이터의 부족이 multimodal 모델 발전의 핵심 병목 현상이라는 문제에서 출발한다. 기존 연구들은 주로 정적인 이미지에 의존하여 실제 세계의 동적 상호작용을 포착하는 데 한계가 있으며, 수동 주석 생성의 높은 비용으로 인해 데이터 확장이 어렵다 .#Review#Multimodal Understanding#Image Editing#Unified Multimodal Models#Data Curation#Agent Systems#Instruction Tuning2026년 11월 3일댓글 수 로딩 중
[논문리뷰] ToolSpace: Scaling Tool-Centric Environment Synthesis for Long-Horizon Agents본 연구는 기존 LLM 기반 Long-Horizon Agent가 실제 환경에서 복잡한 도구 체인을 안정적으로 구성하지 못하는 문제의 근본 원인을 해결하고자 합니다 .#Review#Tool-Centric Environment Synthesis#Long-Horizon Agents#Tool-Composition Graph#Cross-Environment Task Synthesis#State-Aware Random Walks#Executable Benchmarks2026년 11월 3일댓글 수 로딩 중
[논문리뷰] Think Less, Locally: Local Preference Learning for Reasoning Compression본 연구는 Large Reasoning Models (LRMs)의 긴 Chain-of-Thought가 불필요한 추론을 포함하여 추론 지연 시간과 메모리 비용을 증대시키는 문제를 해결하고자 한다.#Review#Large Reasoning Models#Reasoning Compression#Local Preference Learning#Overthinking#DPO#Chain-of-Thought#Efficiency2026년 11월 3일댓글 수 로딩 중
[논문리뷰] Switch-SWE: Do Coding Agents Hold Focus When Switching Between Unfinished Tasks?본 논문은 코딩 에이전트가 실제 소프트웨어 개발 환경처럼 다수의 미완성 작업을 동시에 처리할 때, 특정 작업을 중단하고 다른 작업을 수행한 뒤 본래 작업으로 돌아와 성공적으로 마무리할 수 있는지에 대한 근본적인 의문을 제기합니다.#Review#Coding Agents#Software Engineering#Benchmark#Task Resumption#Context Management#Repository-Level2026년 11월 3일댓글 수 로딩 중
[논문리뷰] SpecPilot: Autonomous Algorithm Discovery and Systems Optimization for Speculative Decoding본 논문은 기존의 Speculative Decoding 시스템인 Stock이 병렬 드래프팅이 제공하는 잠재적 성능 향상을 완전히 달성하지 못하는 문제를 해결합니다.#Review#Speculative Decoding#Autonomous Optimization#Lossless Algorithms#Agentic Framework#Systems Optimization2026년 11월 3일댓글 수 로딩 중