[논문리뷰] Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models

링크: 논문 PDF로 바로 열기

메타데이터

저자: Senqiao Yang, Chengyao Wang, Yuxin Chen, Zixuan Wang, Longxiang Tang, Haokun Gui, Jinhui Ye, Changsheng Lu, Xiaoyang Wu, Mingkang Zhu, Pengguang Chen, Shu Liu, Zhuotao Tian, Hengshuang Zhao, Bei Yu, Jiaya Jia

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• VLA (Vision-Language-Action) Models: 시각적 입력과 언어 명령을 처리하여 로봇의 동작(Action)을 생성하는 다중 모달 모델입니다.
• Continued Pre-training: 기존에 이미 학습된 VLM(Vision-Language Model)의 가중치를 기반으로, 대규모 로봇 데이터셋을 추가 학습시켜 로봇 제어 능력을 내재화하는 과정입니다.
• Action Head: VLA 모델의 백본(Backbone)으로부터 나온 잠재 표현(Latent Representation)을 기반으로 실제 로봇의 물리적 제어 명령(Joint position, end-effector pose 등)을 출력하는 독립적인 모듈입니다.
• Multi-head Co-supervision: 여러 형태의 Action Head(예: OFT, PI, GR00T)를 동시에 사용하여 백본을 학습시킴으로써, 백본이 특정 Head에 고착되지 않고 범용적인 동작 정보를 표현하도록 유도하는 기법입니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 대규모 로봇 데이터 확보의 물리적 한계로 인해, 기존 VLA 모델들이 단순히 동작 데이터를 모사(Fitting)하는 데 그쳐 범용성을 확보하지 못하는 문제를 해결하고자 합니다. 기존의 Naive한 Continued Pre-training은 백본 모델을 특정 Action Head에 과적합(Over-specialization)시키거나, 로봇 데이터의 편향성으로 인해 기존 VLM이 가진 범용적인 시각-언어 표현력을 훼손하는 결함이 있습니다 [Figure 2]. 따라서 저자들은 고정된 데이터 예산 내에서 로봇의 물리적 상호작용 지식을 효과적으로 백본에 내재화할 수 있는 새로운 Representation-centric 접근 방식을 제안합니다.

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 VLAct라 명명된 VLA 백본 학습 프레임워크를 제안하며, 크게 세 가지 핵심 구성 요소를 갖습니다 [Figure 3]. 첫째, Shallow-layer protection과 Caption-mixed pre-training을 통해 모델의 하위 계층을 보호하고 텍스트 정보를 유지함으로써, 기존 VLM의 범용적인 Prior를 보존합니다. 둘째, Multi-head Co-supervision을 도입하여 여러 종류의 연속적 Action Head를 동시에 학습시킴으로써, 특정 Head에 종속되지 않는 독립적인 동작 표현력을 학습시킵니다. 셋째, Partially unified cross-embodiment action space를 적용하여 물리적으로 유사한 동작(예: 그리퍼 개폐)은 공유하되, 기구학적 차이가 큰 부분은 마스킹하여 다양한 로봇 환경에 유연하게 대응합니다 [Figure 4].

실험 결과, VLAct는 LIBERO-Plus 벤치마크에서 82.6%의 성공률을 기록하며 강력한 산업계 모델인 Abot-M0를 상회하는 성능을 보였습니다. 특히, RoboCasa-GR1과 같은 미학습 Embodiment에 대해, 전체 데이터셋의 20%만 사용하고도 기존의 GR00T-N1.6 모델(전체 데이터 사용)보다 뛰어난 성능을 보였습니다 [Table 1, Table 2]. 이는 제안하는 방법론이 데이터 효율성과 범용적 전이 학습 측면에서 탁월함을 입증합니다.

4. Conclusion & Impact (결론 및 시사점)

본 논문은 VLA 모델의 성능 향상이 단순히 데이터 규모를 늘리는 것에 국한되지 않고, 백본의 표현력(Representation)을 최적화하는 과정에 있음을 시사합니다. VLAct는 데이터 효율적인 Representation-centric 학습을 통해 하드웨어 및 데이터 제약이 있는 환경에서도 고성능 로봇 정책을 구현할 수 있음을 증명했습니다. 향후 이 연구는 로봇 모델을 더 범용적이고 이식 가능한(Portable) 방향으로 발전시키는 데 중요한 학술적 근거를 제공할 것입니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.