[논문리뷰] Innovator-VL: A Multimodal Large Language Model for Scientific Discovery

링크: 논문 PDF로 바로 열기

저자: Zichen Wen, Boxue Yang, Shuang Chen, Yaojie Zhang, Yuhang Han, Junlong Ke, Cong Wang, Yicheng Fu, Jiawang Zhao, Jiangchao Yao, Xi Fang, Zhen Wang, Henxing Cai, Lin Yao, Zhifeng Gao, Yanhui Hong, Nang Yuan, Yixuan Li, Guojiang Zhao, Haoyi Tao, Nan Wang, Han Lyu, Guolin Ke, Ning Liao, Xiaoxing Wang, Kai Chen, Zhiyu Li, Feiyu Xiong, Sihan Hu, Kun Chen, Yanfeng Wang, Weinan E, Linfeng Zhang, Linfeng Zhang

핵심 연구 목표

본 논문은 다양한 과학 도메인에 걸쳐 멀티모달 이해 및 추론 을 발전시키고, 동시에 일반 비전 태스크에서 우수한 성능을 유지하는 과학 멀티모달 대규모 언어 모델(MLLM) 인 Innovator-VL을 제시합니다. 대규모 도메인 특정 사전 훈련 데이터에 대한 의존성을 줄이면서, 원칙적인 훈련 설계와 투명한 방법론을 통해 강력한 과학 멀티모달 지능을 달성하는 것을 목표로 합니다.

핵심 방법론

Innovator-VL은 데이터 수집부터 전처리, 지도 미세 조정(SFT), 강화 학습(RL), 평가에 이르는 완전히 투명하고 재현 가능한 훈련 파이프라인 을 제공합니다. 시각 인코더로 RICE-ViT 를, 비전-언어 프로젝터로 PatchMerger 를, 언어 디코더로 Qwen3-8B-Base 를 채택하였으며, 5백만 개 미만의 정제된 과학 훈련 샘플로 경쟁력 있는 성능을 달성합니다. SFT 단계에서 Chain-of-Thought 및 다단계 추론 데이터 를 통합하고, RL 단계에서는 Group Sequence Policy Optimization (GSPO) 과 계층적 보상 시스템을 활용하여 긴 추론 경로를 최적화합니다.

주요 결과

Innovator-VL-8B-Thinking 모델은 37개 벤치마크에 걸쳐 61.83%의 평균 점수 를 기록하며 동급 모델 중 최고 성능(SOTA) 을 달성했습니다. 특히, OpenRxn 및 MolParse와 같은 전문 화학 태스크에서는 각각 57% 및 64%를 초과하는 점수 로 다른 모든 기준 모델(17% 미만)을 크게 능가하는 압도적인 성능을 보였습니다. 또한, 추론 과정에서 토큰 효율성 이 뛰어나, 다른 모델 대비 1.4배에서 4.3배 높은 정확도-대-토큰 비율 을 달성했습니다.

AI 실무자를 위한 시사점

본 연구는 대규모 과학 데이터 없이도 효율적이고 재현 가능한 고성능 과학 멀티모달 모델을 구축할 수 있음을 입증하여, 데이터 집약적인 접근법에 대한 실용적인 대안 을 제시합니다. 과학적 추론 능력과 일반 비전 능력이 서로 저하되지 않고 통합될 수 있음을 보여줌으로써, 다목적 AI 시스템 개발에 중요한 통찰력을 제공합니다. 투명한 방법론, 데이터 효율성, 토큰 효율성에 대한 강조는 특히 리소스가 제한된 과학 환경 에서 효율적이고 배포 가능한 AI 시스템 개발에 핵심적인 가이드라인을 제공합니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.