[논문리뷰] Evolving Infra: Agent-Adaptive LLM Serving at Scale기존 PD disaggregated serving system은 compute allocation과 KV cache management가 노드의 phase에 묶여 있다. 그래서 agentic workload의 다양성과 동적 변화에 대응하지 못한다.#Review#LLM Serving#Prefill-Decode Disaggregation#Agentic Workloads#KV Cache Management#Online Resource Allocation#Cache Eviction#Request Routing2026년 11월 11일댓글 수 로딩 중