[논문리뷰] JoyNexus: Service-Oriented Multi-Tenant Post-Training for VLA Models

링크: 논문 PDF로 바로 열기

메타데이터

저자: Haoran Sun, Wentao Zhang, Junyang Hua, Hedan Yang, Yongjian Guo, Yifei Zhang, Xiaolong Xiang, Mingxi Luo, Jing Long, Chen Zhao, Chen Zhou, Wanting Xu, Qiming Yang, Hui Zhang, Song Wang, Xiaodong Bai, Shuai Di, Xu Chu, Xiaotie Deng, Yicheng Gong, Junwu Xiong

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• VLA (Vision-Language-Action): 시각적 정보와 언어적 명령을 입력받아 로봇 제어(Action)를 수행하는 모델로, 다양한 임베딩과 작업을 수행하기 위해 후속 학습(Post-training)이 필수적인 모델입니다.
• Tinker-style Service: 하드웨어 관리 부담을 제거하고 프로그램 API를 통해 학습과 배포를 관리하도록 추상화된 모델 서비스 프레임워크입니다.
• Multi-Tenant Group Batching: 여러 테넌트(Tenant)의 다양한 VLA 데이터 스키마를 공유된 모델 백본(Backbone)에서 한 번의 Forward Pass로 처리하여 자원 효율성을 극대화하는 기법입니다.
• Resident Base Model: 테넌트별로 복제되지 않고 메모리에 상주하며 공유되는 핵심 VLM(Vision-Language Model) 백본입니다.
• Actor Module: 테넌트별로 고유하게 유지되는 동작 제어 레이어(Action Head, Adapter 등)로, 학습 시 이 부분만 업데이트됩니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 VLA 모델의 후속 학습 과정에서 발생하는 자원 비효율성 및 인프라 관리의 복잡성 문제를 해결하기 위해 JoyNexus를 제안합니다. 기존의 전용 자원 할당 방식은 테넌트에게 높은 유연성을 제공하지만, VLA 모델의 다양성과 작업의 간헐성(Burstiness)으로 인해 GPU 가동률이 낮고 운영 비용이 과도하게 발생하는 한계가 있습니다 [Figure 3]. 특히 여러 테넌트가 각기 다른 시뮬레이터와 로봇 임베딩을 사용할 경우, 고정된 자원 할당 모델은 소규모 반복 작업이나 대기 시간에 자원을 낭비하게 만듭니다. 이를 해결하기 위해 테넌트 독립적인 계산과 공유 인프라를 분리하고, 서비스 지향적인 구조를 도입하여 자원 활용도를 높이는 새로운 접근 방식이 필요합니다.

Figure 3 — JoyNexus 아키텍처 개요

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문이 제안하는 JoyNexus는 학습(Training), 추론(Inference), 환경(Environment) 서비스를 논리적으로 분리하고, 이들을 API 기반의 클라이언트-서버 구조로 통합하여 테넌트 간의 리소스 공유를 최적화합니다 [Figure 3]. 학습 단계에서는 Resident Base Model은 공유하되 테넌트별 Actor Module과 상태를 격리하여 관리하며, Training Queue와 Inference Queue를 통해 다양한 워크로드를 비동기적으로 스케줄링합니다 [Figure 5]. 특히 제안된 Multi-Tenant Group Batching 기법은 이질적인 VLA 데이터들을 모델-지향적 접두사(Model-facing prefix)를 기반으로 그룹화하여, 단일 공유 백본에 대한 Forward Pass 효율을 크게 향상시킵니다. 실험 결과, JoyNexus는 기존의 단일 테넌트(Single-tenant) 방식 대비 GPU 사용 시간을 유의미하게 감소시켰으며, cross-tenant 스케줄링을 통해 전체적인 서비스 활용도(Service utilization)를 대폭 개선하였습니다. 또한, Health Manager를 도입하여 특정 테넌트나 역할(Role)의 실패 발생 시 전체 워크로드 중단 없이 부분적인 재시작이 가능하도록 하여 운영 안정성을 확보했습니다.

Figure 5 — 멀티 테넌트 런타임 흐름

4. Conclusion & Impact (결론 및 시사점)

본 논문은 JoyNexus를 통해 VLA 후속 학습을 위한 서비스 지향적인 멀티 테넌트 아키텍처의 가능성을 입증했습니다. 연구 결과는 하드웨어 인프라를 직접 관리해야 했던 기존의 한계를 극복하고, 서비스 제공자가 보다 효율적으로 고가의 가속기 자원을 배분할 수 있음을 시사합니다. 향후 JoyNexus의 추상화된 API와 스케줄링 프레임워크는 로봇 학습 및 embodied AI 분야에서 대규모 다중 사용자 환경을 구축하는 데 중요한 기술적 토대가 될 것입니다. 이는 학계와 산업계 모두에서 공통적으로 필요로 하는 자원 효율적 모델 학습 생태계 구축에 기여할 것으로 기대됩니다.

Figure 1 — VLA 모델의 구조적 특징

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.