[논문리뷰] MambaAct: Efficient Mamba Action Experts for Flow-Matching Vision-Language-Action Models

링크: 논문 PDF로 바로 열기

메타데이터

저자: Khuyen Pham, Tran Nguyen Le, Edoardo Fazzari, Cesare Stefanini, et al.

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• Flow-Matching VLA: 연속적인 액션 생성을 위해 확산 기반의 flow-matching 기법을 사용하는 Vision-Language-Action 모델 (예: $\pi_{0.5}$).
• Mamba Action Expert: 기존의 무거운 Transformer 기반 action expert를 대체하기 위해 제안된, selective state-space 모델(Mamba) 기반의 경량화된 액션 생성 모듈.
• Context Compressor: VLM(Vision-Language Model)의 방대한 prefix 토큰을 압축하여 액션 expert에 필요한 조건부 신호(conditioning signal)로 변환하는 경량 인터페이스.
• FiLM (Feature-wise Linear Modulation): VLM의 정보를 Mamba action block에 주입하기 위해, 입력 특징의 scale과 shift를 학습 가능한 매개변수로 조절하는 기법.
• E2E (End-to-End) Latency: 로봇 제어 시스템에서 정책 쿼리부터 액션 출력까지 소요되는 전체 대기 시간으로, 본 논문에서는 반복적으로 수행되는 denoising 단계가 핵심 병목으로 작용함.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 최신 Flow-Matching VLA 모델들에서 반복적인 액션 생성 과정이 추론 지연의 핵심 병목으로 작용하는 문제를 해결하고자 한다. [Figure 1]. 기존 모델들은 시각-언어 백본을 효율적으로 유지하더라도, flow-matching을 위한 액션 expert를 매 denoising 단계마다 반복적으로 평가해야 하므로 연산 비용이 매우 높다. 특히, 기존의 Transformer 기반 액션 expert는 파라미터 규모가 커서 실시간 로봇 제어에 제약이 따른다. 따라서 본 연구는 사전 학습된 시각-언어 표현을 보존하면서도, 액션 생성 모듈 자체를 경량화된 Mamba 기반의 expert로 대체하여 효율성을 극대화할 수 있는지 탐구한다. [Figure 1]

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 사전 학습된 $\pi_{0.5}$ 모델의 VLM 백본을 유지한 채, 무거운 Transformer 액션 expert를 10배 이상 작은 MambaAct expert로 대체하는 방법론을 제안한다. [Figure 2]. 제안된 모델은 Context Compressor를 통해 VLM 정보를 압축하고, 이를 FiLM 기반의 gated 모듈을 통해 각 Mamba 블록에 효율적으로 주입함으로써 연산 효율성을 대폭 개선한다. 실험 결과, MambaAct는 LIBERO 벤치마크에서 기존 $\pi_{0.5}$ 모델 대비 denoising latency를 64.8% 감소시켰으며, E2E latency 역시 52.9% 단축하는 성능을 보였다. [Table I]. 또한, 성능 측면에서도 LIBERO 성공률을 평균 1.08%p 향상시켰으며, 실시간 로봇 제어 작업에서도 OOD(Out-of-Distribution) 환경에 대한 강건한 성능을 입증하였다. [Table IV].

4. Conclusion & Impact (결론 및 시사점)

본 논문은 MambaAct를 통해 flow-matching VLA 모델의 액션 생성 경로를 효율적으로 최적화하는 새로운 설계 지점을 제시한다. Mamba 기반의 경량 expert와 gated conditioning 인터페이스를 결합함으로써, 모델 파라미터와 추론 시간을 획기적으로 줄이면서도 조작 작업에서의 성공률과 강건성을 개선하였다. 이 연구는 고성능 VLA 모델의 실시간 배포를 위한 핵심 기술로서, 향후 더 복잡한 로봇 제어 시스템의 효율적 구현에 크게 기여할 것으로 기대된다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.