[논문리뷰] SparseEngine: Sparse-First Inference Engine본 논문은 LLM 기반 에이전트의 긴 컨텍스트 처리로 인해 발생하는 KV cache 메모리 부족과 attention 연산 지연 문제를 해결하기 위해 고안되었습니다. 기존의 희소 attention 기법들은 각기 다른 KV 표현 방식과 워크플로우를 가져 기존 serving 엔진과 통합하기 어렵다는 한계가 있습니다.#Review#Inference Engine#Sparse Attention#KV Cache#Chain Cache#Lifecycle Contract#Agentic Workflow#Prefix-Cache Pruning2026년 10월 8일댓글 수 로딩 중
[논문리뷰] LLMs are General Asynchronous Agents본 논문은 현대의 LLM이 주로 순차적인 Read-Think-Reply 루프에 갇혀 있어, 실시간성이 중요한 환경에서 비동기적 반응을 처리하는 데 한계가 있다는 문제의식을 다룹니다.#Review#AsyncLLM#Asynchronous Agents#Concurrency#Shared Memory#CacheBlocks#Hybrid LLMs#Inference Engine2026년 9월 29일댓글 수 로딩 중
[논문리뷰] Inferix: A Block-Diffusion based Next-Generation Inference Engine for World Simulation기존 비디오 확산 모델의 비효율성 및 고정 길이 제약과 AR 모델의 낮은 품질 및 병렬화 불가능 문제를 극복하고자 합니다.#Review#World Simulation#Video Generation#Block Diffusion#Semi-Autoregressive#KV Cache Management#Inference Engine#Long Video Generation#Performance Optimization2025년 11월 26일댓글 수 로딩 중