[논문리뷰] ReVSeg: Incentivizing the Reasoning Chain for Video Segmentation with Reinforcement Learning

링크: 논문 PDF로 바로 열기

저자: Yifan Li, Yingda Yin, Lingting Zhu, Weikai Chen, Shengju Qian, Xin Wang, Yanwei Fu

핵심 연구 목표

본 논문은 복잡한 추론 중심 비디오 객체 분할 (Reasoning VOS) 태스크에서 기존 Vision-Language Models (VLMs) 의 불투명한 단일 스텝 잠재 예측 방식의 한계를 극복하는 것을 목표로 합니다. 특히 동적, 인과적, 시간적 상호작용이 포함된 질의에 대해 명시적이고 해석 가능한 추론 체인 을 구축하여 객체를 정확하게 분할하는 것을 목표로 합니다.

핵심 방법론

ReVSeg 는 추론 VOS를 VLM 고유의 기본 기능 에 맞춰 세 가지 명시적 작업(의미론적 해석, 시간적 증거 선택, 공간적 그라운딩)으로 분해합니다. 이 작업들은 단일 VLM (Qwen2.5-VL-7B) 을 통해 두 단계의 대화 형식으로 수행됩니다. 첫 번째 단계에서는 비디오 이해 및 시간적 그라운딩을 통해 핵심 프레임과 객체 설명을 추출하고, 두 번째 단계에서는 추출된 정보를 바탕으로 공간적 그라운딩 (바운딩 박스 예측) 을 수행합니다. 최종적으로 강화 학습 (Group Relative Policy Optimization, GRPO) 을 적용하여 형식, 시간, 공간 보상 을 통해 다단계 추론 체인 전체를 최적화하며, SAM2 (Hiera-L) 트래커가 마스크를 생성합니다.

주요 결과

ReVSeg-7B 는 ReasonVOS 데이터셋에서 64.8 J&F 를 달성하여 이전 SOTA 모델인 RGA-7B의 53.6 J&F보다 +11.2 포인트 향상된 성능을 보여주었습니다. Ref-DAVIS17 데이터셋에서는 80.7 J&F 를 기록했으며, ReVOS, Ref-YouTube-VOS, MeViS를 포함한 여러 벤치마크에서도 일관된 SOTA 성능을 달성했습니다. 분해된 추론 체인과 RL 포스트 트레이닝의 조합이 성능 향상에 결정적인 기여를 했음이 Ablation Study 를 통해 입증되었습니다.

AI 실무자를 위한 시사점

ReVSeg 는 복잡한 비디오 이해 태스크에 대해 해석 가능하고 다단계적인 추론 파이프라인 을 제공하여 블랙박스 모델의 한계를 넘어섭니다. 강화 학습 을 통해 희소한 보상 신호만으로도 복잡한 추론 체인을 효과적으로 최적화할 수 있음을 보여주어, 데이터 주석이 어려운 실제 환경의 AI 시스템 개발에 유용합니다. 사전 훈련된 VLM 의 기본 기능을 활용하는 모듈식 접근 방식은 모델 재훈련 비용을 절감하고, 다양한 비디오 AI 응용 프로그램에서 강력하고 일반화 가능한 성능을 달성하는 데 기여할 수 있습니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.