[논문리뷰] Stepped MoE: Segment-Level Routing with Configurable Inference Complexity본 논문은 기존 MoE 모델의 per-token 라우팅이 온디바이스 환경에서 초래하는 심각한 I/O 병목 현상을 해결하고자 합니다 . 기존 MoE 모델은 매 토큰마다 전문가가 변경되어 빈번한 메모리 스와핑을 유발하며, 이는 DRAM이 제한된 엣지 디바이스에서 성능 저하의 주원인이 됩니다.#Review#Mixture-of-Experts#On-device Inference#Segment-level Routing#Configurable Complexity#Model Elasticity#LLM2026년 10월 6일댓글 수 로딩 중