[논문리뷰] Does Scaling Toward AGI Depend on What System-1 Lets System-2 Execute?

링크: 논문 PDF로 바로 열기

메타데이터

저자: Qi Wang, Yun Qu, Lizhou Cai, et al.

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• System-1: 비용 효율적이고 시맨틱하게 정보를 인식하는 예측기(Predictor)로, 어떤 상호작용이 가치 있는지 사전에 평가하고 필터링하는 역할을 수행합니다.
• System-2: 고성능의 연산 자원을 소모하는 집행기(Executive)로, 추론, 계획, 결정, 도구 사용 등 실제 복잡한 작업을 수행합니다.
• Conditional Interaction: System-1이 유틸리티를 예측하여 가치가 충분한 후보만을 System-2가 실행하도록 하는 predict–gate–execute–update 루프 기반의 공동 설계 전략입니다.
• Informative Compute: 단순한 총 연산량이 아니라, 유틸리티 예측을 통해 선별된 가치 있는 상호작용에 투입된 연산량을 의미하며, 확장 효율성을 설명하는 핵심 지표입니다.
• ρu (Density of Utility-relevant Interactions): 전체 후보 상호작용 중 유틸리티가 특정 임계값을 넘어서는 정보성 상호작용의 밀도를 뜻하며, 확장 효율을 결정짓는 핵심 좌표입니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 AGI로 향하는 현재의 스케일링 방식이 모델 용량, 데이터, 컴퓨팅 자원의 무차별적인 확장에 지나치게 의존함으로써 발생하는 한계를 해결하고자 합니다 [Figure 1]. 기존의 스케일링 법칙(Scaling Laws)은 모든 상호작용을 동일하게 취급하여, 결과적으로 무의미하거나 중복된 정보에 과도한 컴퓨팅 자원이 낭비되는 비효율성을 초래합니다. 저자들은 연산 자원이 유한한 상황에서, 단순히 '얼마나 많은' 상호작용을 수행하느냐가 아니라 '어떤' 상호작용이 비용을 지불할 가치가 있는지를 판단하는 것이 차세대 AGI 발전의 핵심이라고 정의합니다. 따라서 자원 집약적인 System-2와 효율적인 System-1을 결합하여 지능적 상호작용을 최적화하는 새로운 설계 프레임워크가 요구됩니다.

3. Method & Key Results (제안 방법론 및 핵심 결과)

저자들은 System-1과 System-2를 공동 설계(Co-design)하는 'Conditional Interaction' 프레임워크를 제안합니다 [Figure 4]. 이 방법론은 System-1이 예측한 유틸리티 점수를 기반으로 Adaptive Threshold를 적용하여 System-2의 실행 대상을 필터링하고, 그 결과를 다시 System-1의 학습에 반영하여 성능을 고도화하는 폐쇄 루프(Closed-loop) 구조를 가집니다. 실험적 결과에 따르면, 이상적인 스크리닝(Screening) 조건 하에서 실행 연산 비용(Execution Compute)은 유틸리티 밀도 ρu의 역수인 1/ρu 인자만큼 감소할 수 있음을 이론적으로 도출했습니다. 이는 무의미한 상호작용을 제거함으로써, 동일한 컴퓨팅 예산으로 더 높은 작업 성공률(Task Success)을 달성하거나, 동일한 성공률을 더 낮은 비용으로 달성할 수 있는 새로운 Cost-QoS-Intelligence 파레토 프론티어를 제시합니다 [Figure 3].

4. Conclusion & Impact (결론 및 시사점)

본 연구는 AGI 발전을 위한 차세대 스케일링 지표로써 'Informative Compute'와 유틸리티 밀도 ρu의 중요성을 강조합니다. System-1과 System-2의 공동 설계는 단순히 하드웨어적 성능을 높이는 것을 넘어, 지능형 시스템이 스스로 효율적인 연산 자원 배분 전략을 수립하게 함으로써 스케일링의 한계를 돌파할 수 있는 강력한 토대를 마련합니다. 이 프레임워크는 향후 기초 모델, 로보틱스, 에이전트 시스템의 자원 관리 최적화와 자가 학습(Self-evolution) 메커니즘을 정립하는 데 중대한 학술적·산업적 이정표가 될 것입니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.