[논문리뷰] Beyond Future Prediction: Denoising as Generative Adaptation for Robot Control

링크: 논문 PDF로 바로 열기

메타데이터

저자: Zanyi Wang, Yuheng Lei, Dengyang Jiang, Ping Luo, Mengdi Wang, Zhixuan Liang, Shilong Liu

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• Diffusion Transformers (DiT): 대규모 이미지 및 비디오 생성 학습을 통해 강력한 픽셀 수준의 시각적 구조를 학습한 생성형 기초 모델입니다.
• Future-Target Co-training: 로봇 정책 학습 시 미래 시점의 관측값을 예측하는 별도의 시각적 타겟을 두어 생성형 사전학습된 지식을 로봇 제어로 전이하는 방식입니다.
• NowWAM: 미래 시점 예측 없이 현재의 시각적 스트림에 직접 Denoising 과정을 적용하여 생성형 사전학습된 지식과 액션 학습을 단일 스트림으로 결합하는 제안 방법론입니다.
• Denoising Trajectory: DiT의 생성 과정에서 노이즈가 점진적으로 제거되는 경로를 의미하며, NowWAM은 이 경로를 따라 샘플링된 표현을 통해 로봇의 정책을 학습합니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 pretrained generative DiT가 로봇 제어에서 실제로 어떤 역할을 하는지, 그리고 이 사전지식을 어떻게 효과적으로 전이할 것인지에 대한 근본적인 의문을 제기합니다. 기존 연구들은 주로 미래 시점의 시각적 정보를 예측하는 방식을 통해 생성형 사전학습 지식을 로봇 학습에 통합해왔으나, 최근에는 이 예측 과정이 추론(Inference) 단계에서 제거되고 훈련(Co-training) 단계에서만 유지되는 추세입니다 [Figure 1]. 저자들은 이러한 미래 예측이 과연 로봇 학습의 성능 향상에 필수적인지, 그리고 왜 단순한 현재 상태의 denoising 만으로도 충분히 강력한 시각적 표현 학습이 가능한지 검증하고자 합니다. 이를 통해 미래 예측이라는 불필요한 연산 오버헤드를 줄이면서도 더 강건한 제어 성능을 확보하고자 합니다 [Figure 1].

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 미래 예측 타겟을 제거하고, 현재의 시각적 스트림을 DiT의 Denoising 경로를 따라 샘플링하여 학습하는 NowWAM을 제안합니다 [Figure 2]. 제안된 NowWAM은 학습 과정에서 Denoising 손실 함수와 액션 예측 손실 함수를 단일 시각적 스트림 내에서 최적화하며, 이를 통해 액션 전문가(Action Expert)가 시각적 Denoising 상태들의 연속체(Continuum)에 걸쳐 학습되도록 합니다. 실험 결과, LIBERO-Plus 벤치마크에서 FLUX2-Klein-4B 모델을 사용했을 때 87.7%의 성공률을 기록하여 기존의 미래 타겟 기반 방법론 대비 6.1점 높은 성능을 달성했습니다 [Table 2]. 또한, 순수 텍스트-이미지 모델인 Z-Image-6B에서도 87.8%의 성공률을 기록하며 모델 의존성을 낮추었습니다. 학습 효율성 측면에서는 비주얼 토큰 수를 기존 784개에서 392개로 절반 수준으로 줄였으며, Step time을 2.85초에서 1.63초로 1.8배 가속화하는 성과를 거두었습니다 [Table 4].

4. Conclusion & Impact (결론 및 시사점)

본 논문은 로봇 정책 학습에서 미래 시점의 예측이 반드시 필수적인 것은 아니며, 사전학습된 생성형 모델의 Denoising 궤적을 활용하는 것만으로도 충분히 효과적인 로봇 제어 전이가 가능함을 증명합니다. NowWAM은 미래 타겟을 제거하여 학습 효율을 크게 높이면서도 배포 시에는 추가적인 비용 없이 단순한 Denoising 기반 학습의 강건함을 유지합니다. 이 연구는 생성형 기초 모델을 로봇 제어에 통합하는 방식을 단순화하고 최적화함으로써, 향후 다양한 생성형 백본을 더 쉽게 로봇 도메인에 적용할 수 있는 기틀을 마련했습니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.