[논문리뷰] RelayGen: Intra-Generation Model Switching for Efficient Reasoning

링크: 논문 PDF로 바로 열기

저자: Jiwon Song, Yoonwon Kim, Jae-Joon Kim, SooChet National University

핵심 연구 목표

대규모 추론 모델(LRMs)의 긴 추론 과정에서 발생하는 불균일한 생성 난이도 문제를 해결하여, 상당한 정확도 저하 없이 추론 지연 시간을 줄이는 것 을 목표로 합니다. 특히, 추론 과정 중 난이도가 낮은 세그먼트에는 작은 모델을 할당하여 모델 용량을 동적으로 최적화하는 훈련 없는(training-free) 방법론 을 제시합니다.

핵심 방법론

논문은 생성 난이도를 정량화하기 위해 확률 마진(probability margin) 을 정의하고, 사전 정의된 담화 수준(discourse-level) 신호 를 활용하여 난이도 전환 지점을 식별합니다. 오프라인 캘리브레이션 절차 를 통해 특정 모델 쌍에 맞는 스위치 큐를 선택하며, 런타임에는 대규모 모델이 추론을 수행하다가 스위치 큐가 감지되면 작은 모델로 전환하고, 다시 난이도가 높아지는 시점에 대규모 모델로 복귀하는 세그먼트 수준(segment-level) 모델 전환 을 구현합니다. 이 방법론은 추측 디코딩(speculative decoding) 과 호환되도록 설계되었습니다.

주요 결과

RelayGen은 AIME 2025 벤치마크에서 추측 디코딩 과 결합 시, 대규모 모델 단독 사용 대비 최대 2.2배의 추론 속도 향상 을 달성하면서 2% 미만의 정확도 저하 를 보였습니다. MATH500, AIME 2025, GPQA-Diamond 벤치마크에서 Speculative Thinking 및 R2R 과 같은 기존 방법론보다 우수하거나 동등한 Pass@1 성능을 보여주며, 답변 단계에서 작은 모델로 전환했을 때 대규모 모델과 99.86%의 답변 일치율 을 기록했습니다. 캘리브레이션에 필요한 오프라인 시간은 약 100분 으로 매우 낮습니다.

AI 실무자를 위한 시사점

AI 실무자들은 RelayGen을 통해 복잡한 훈련 없이 대규모 언어 모델의 추론 비용과 지연 시간을 효과적으로 줄일 수 있습니다. 추측 디코딩 과의 자연스러운 통합은 배포된 LLM 애플리케이션의 성능을 크게 향상시킬 잠재력을 제공합니다. 그러나 명확한 추론 구조와 대소 모델 간의 적절한 성능 격차가 전제되므로, 특정 도메인 및 모델 선택 시 이러한 제약 사항을 고려해야 합니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.