[논문리뷰] SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments

링크: 논문 PDF로 바로 열기

메타데이터

저자: Tian Jin, Wenhao Wang, Jing Kang, Haoting Shi, Rui Ye, Yijun Lu, Siheng Chen

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• Computer-Use Agent (CUA): GUI 환경에서 인간처럼 마우스와 키보드 입력을 통해 복잡한 소프트웨어 작업을 수행하는 에이전트.
• SoftwareGym: GUI 소프트웨어 환경을 자동 합성하고, 기능적 신뢰성을 검증하여 CUA 훈련을 위한 대규모 데이터셋을 구축하는 멀티 에이전트 파이프라인.
• Avalonia: 소프트웨어 구현 과정에서 다양한 UI 레이아웃과 구조를 정의하기 위해 사용된 UI 프레임워크.
• SoftwareGym-Bench: 연구진이 제안한 12개 카테고리, 120개 작업으로 구성된 CUA 성능 평가를 위한 전용 벤치마크.
• Pass@3: 모델의 성능을 측정하는 지표로, 3회의 시도 중 최소 1회 성공할 확률을 의미함.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 Computer-Use Agent (CUA) 훈련에 필요한 다양하고 신뢰성 있는 실행 가능한 환경의 부족 문제를 해결한다. 기존의 Native 응용 프로그램 기반 환경은 구축 및 통합 비용이 지나치게 높고 특정 응용 프로그램에 대한 Overfitting 위험이 존재하며, 브라우저 기반 환경은 상호작용의 깊이와 복잡한 워크플로우를 구현하는 데 한계가 있다. 저자들은 인터페이스 다양성, 기능적 신뢰성, 그리고 대규모 확장이 가능한 자동화된 합성 파이프라인의 필요성을 강조한다. [Figure 1]

Figure 1 — SoftwareGym으로 합성된 응용 프로그램 예시

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 SoftwareGym이라는 3단계 자동화 파이프라인(Design, Implementation, Evaluation)을 제안한다. Design 단계에서는 기능적 명세와 구조적으로 다양한 UI Blueprint를 생성하며, Implementation 단계에서는 이를 실행 가능한 Avalonia 애플리케이션으로 구현한다. 마지막으로 Evaluation 단계에서는 GUI 테스트를 통해 실패 사례를 도출하고, 이를 바탕으로 한 Iterative Repair를 수행하여 최종적으로 91.5%의 평균 작업 성공률을 확보한다. [Figure 2]

Figure 2 — SoftwareGym의 전체 아키텍처 및 파이프라인

주요 실험 결과로, 본 연구에서 생성된 데이터로 훈련된 Qwen3.5-9B 모델은 OSWorld 벤치마크에서 기존 41.39%였던 Pass@3 성능을 56.97%로 향상시켰다. [Table 1] 또한, 자체 구축한 SoftwareGym-Bench에서도 기존 베이스라인 모델 대비 월등한 성능을 보이며 전용 벤치마크 평가에서 40.0%의 Pass@3를 기록하였다. [Table 2]

4. Conclusion & Impact (결론 및 시사점)

본 논문은 자동화된 소프트웨어 합성 파이프라인인 SoftwareGym을 통해 CUA 훈련의 고질적인 데이터 확장성 문제를 성공적으로 해결하였다. 본 연구는 대규모 환경 합성으로 획득한 데이터가 모델의 Out-of-domain 일반화 능력을 크게 개선할 수 있음을 증명했다. 이는 향후 CUA 훈련을 위한 고품질 학습 데이터 확보와 에이전트 성능 평가의 표준화에 기여할 것으로 기대된다.

Figure 3 — 검증된 기능 기반의 작업 합성 프로세스

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.