[논문리뷰] SanSi: A Looped Typed Decision Model for System 1.5 Thinking

링크: 논문 PDF로 바로 열기

메타데이터

저자: Shuyu Gan, Young-Jun Lee, Dongyeop Kang, et al.

1. Key Terms & Definitions (핵심 용어 및 정의)

• Typed Decision Model: 텍스트 생성을 배제하고, 선언된 옵션(Declared Options) 중 하나에 대한 확률만을 단일 Forward pass로 반환하는 모델입니다.
• Looped Backbone: 동일한 Transformer 레이어 스택을 재귀적으로 여러 번 적용하여 파라미터 증가 없이 계산량을 조절하는 구조입니다.
• System 1.5 Thinking: 단일 패스의 빠른 직관(System 1)과 생성형 추론(System 2) 사이의 영역으로, Looping을 통해 답변 확정 전 숨겨진 상태(Hidden State)를 수정하는 사고 과정을 의미합니다.
• Proper Scoring Rule: 모델의 출력 확률과 타겟 확률 분포 간의 차이를 최소화하기 위해 사용되는 손실 함수(본 논문에서는 Cross-entropy와 Brier score의 합 사용)입니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 Typed decision model이 복잡한 다단계 추론(Multi-step reasoning) 상황에서 겪는 성능 한계를 해결하고자 합니다. 기존의 단일 패스(Single-pass) 모델은 고정된 계산량으로 인해 복잡한 규칙 합성이나 추론 체인을 처리하는 데 어려움을 겪으며, 이를 해결하기 위해 생성형 모델을 사용하면 Latency가 증가하고 Typed contract를 준수하지 못한다는 단점이 있습니다 [Figure 1]. 따라서 저자들은 파라미터 추가 없이 계산량을 유연하게 조정하며 추론 깊이를 확장할 수 있는 새로운 접근 방식이 필요하다고 판단하였습니다.

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 사전 학습된 Looped 언어 모델인 Ouro를 기반으로 한 SanSi를 제안합니다. SanSi는 레이어 스택을 최대 8회까지 반복 수행하며, 각 루프마다 Readout을 수행하고 이를 Cross-entropy와 Brier score의 결합 손실 함수로 학습하여 단일 모델로 다양한 계산 예산(Budget)을 처리할 수 있게 합니다 [Figure 2]. 주요 실험 결과, SanSi는 동일한 형태의 비루프 모델 대비 13.5%p 높은 Accuracy(72.0%)를 달성하였으며, 3배 더 큰 파라미터를 가진 모델과도 근접한 성능을 보였습니다 [Table 2]. 특히 다단계 추론에서는 15.1%p, 지식 질문에서는 17.6%p의 큰 성능 향상을 기록했습니다 [Figure 3]. 또한, 두 가지 깊이 제어 작업(Depth-controlled tasks)에서 학습된 범위를 넘어서는 깊이까지 추론 능력을 확장하는 결과를 입증했습니다.

4. Conclusion & Impact (결론 및 시사점)

본 논문은 Looping을 통해 Typed decision model의 추론 역량을 효율적으로 확장하는 SanSi를 성공적으로 제시하였습니다. 이 모델은 추가 파라미터 없이도 복잡한 논리적 추론 및 지식 처리 능력에서 탁월한 성능을 보여, Typed 계약을 유지하면서도 향상된 성능을 요구하는 산업계의 다양한 라우팅 및 의사결정 태스크에 기여할 것으로 기대됩니다. 나아가 SanSi는 강화학습을 활용한 정책 최적화 시 판정자(Judge)로서의 가능성을 입증하여 향후 자율적 AI 에이전트 설계에 중요한 이정표를 제시합니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.