[논문리뷰] TAO: Tool-Aware Joint Scheduling for LLM-Based Agentic Serving본 논문은 LLM 기반 에이전트 서비스에서 도구 실행 지연(Tool-call latency)이 전체 시스템 성능을 저해하는 핵심 병목 현상이 되고 있음을 지적합니다.#Review#Agentic Serving#LLM#Joint Scheduling#Tool-Aware#KV-Cache#Dynamic Programming#Resource Management2026년 10월 28일댓글 수 로딩 중