[논문리뷰] Apertus 1.5: From Open Text Models to Open Multimodal Reasoners

링크: 논문 PDF로 바로 열기

저자: Yixuan Xu, Yassine Turki, Vinko Sabolčec, et al. (Project Apertus)

1. Key Terms & Definitions (핵심 용어 및 정의)

• Apertus 1.5: 기존 Apertus 1.0 텍스트 모델을 기반으로 멀티모달 이해 능력을 통합하고 컨텍스트 윈도우를 262,144 tokens로 확장한 오픈 모델 시리즈입니다.
• Thinking Mode: 별도의 모델을 생성하는 대신, Chat Template 내의 플래그를 통해 활성화되는 추론 특화 모드로, 수학적 추론 능력을 8B 모델에서 최대 20점 향상시킵니다.
• Direct Preference Optimization (DPO): 모델의 정렬(Alignment)을 위해 오프라인 및 온라인 데이터를 활용하여 수행된 학습 기법으로, 오픈 소스 모델의 Instruction Following 능력을 최적화하는 데 핵심 역할을 합니다.
• Vocabulary Extension: 텍스트 모델에 이미지와 오디오 데이터를 처리할 수 있도록 토크나이저(Tokenizer) 수준에서 확장한 기술적 메커니즘입니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 연구는 폐쇄적인 모델 제공자들에 대한 의존성을 줄이고, 투명하고 공개된 데이터를 기반으로 하는 Infrastructure로서의 멀티모달 모델을 구축하고자 합니다. 기존의 폐쇄형 모델 생태계에서는 모델의 데이터 구성, 학습 레시피, 정렬 방식이 불투명하여 학계나 공공 기관의 주도적인 기술 발전에 한계가 있었습니다. 따라서 본 논문은 Apertus 1.0의 오픈 소스 철학을 계승하여, 아키텍처 변경 없이 멀티모달 입력을 처리하고 추론 능력을 강화한 Apertus 1.5를 제안합니다. 특히, 데이터 선택부터 학습 레시피, 평가 수트까지 모두 공개함으로써 모델의 투명성을 극대화하는 것을 목표로 합니다.

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 기존 Apertus 1.0 모델을 4T tokens (8B 모델 기준) 및 2T tokens (70B 모델 기준)의 데이터를 사용하여 Continued Pretraining 함으로써 멀티모달 역량을 통합했습니다. 핵심 방법론은 모델의 Language-model head를 그대로 유지한 채 Vocabulary Extension을 통해 멀티모달 데이터를 토큰화하는 방식입니다. 정량적 실험 결과, Apertus 1.5 8B 모델은 동급의 오픈 모델들 중 지식, Instruction Following, 문화적 벤치마크에서 우위를 점하며, 특히 Instruction Following 분야에서는 비교 대상이 된 모든 오픈 웨이트 모델을 능가합니다. 또한, 이미지 및 오디오 이해 성능 면에서 문서 이해와 긴 형식의 저자원 음성 인식(Speech Recognition) 분야에서 경쟁력 있는 성능을 보였습니다. 최종적으로, Thinking Mode 적용을 통해 수학적 추론 벤치마크에서 20점의 유의미한 성능 향상을 달성했습니다.

4. Conclusion & Impact (결론 및 시사점)

본 논문은 Apertus 1.5를 통해 완전히 공개된 멀티모달 모델이 대규모 스케일에서도 충분히 경쟁력이 있음을 증명했습니다. 저자들은 데이터 투명성, 학습 레시피, 그리고 Apertus Charter에 기반한 정렬 가이드라인을 함께 공개함으로써 AI 거버넌스 및 책임 있는 모델 배포의 새로운 표준을 제시했습니다. 이 연구는 특정 기업에 종속되지 않는 오픈 AI 인프라 구축의 중요성을 재확인시키며, 향후 멀티모달 및 긴 컨텍스트 모델 연구의 핵심적인 오픈 소스 기반으로 기여할 것으로 기대됩니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.