[논문리뷰] Source Preference in the Wild: How LLM Agents Favor Items by Source, and How to Reduce It

링크: 논문 PDF로 바로 열기

메타데이터

저자: Jonghyun Song, Haewon Park, Jeonghoon Shim, Woojung Song, Yohan Jo

1. Key Terms & Definitions (핵심 용어 및 정의)

• Source Preference: 에이전트가 동일한 품질의 아이템이라 할지라도 특정 출처(URL 등)에서 제공된 아이템을 체계적으로 선호하거나 회피하는 현상을 의미합니다.
• Requirement-Matched Pair: 에이전트의 사용자 요청 만족도를 동일하게 측정하기 위해, 특정 요청 내에서 동일한 개수의 요구사항을 충족하는 서로 다른 출처의 아이템 쌍을 지칭합니다.
• Bradley–Terry (BT) Model: 쌍대 비교 데이터를 바탕으로 각 출처에 대한 상대적 선호 점수를 추정하기 위해 사용되는 통계적 모델입니다.
• Inversion: 더 높은 품질의 아이템(더 많은 요구사항 만족)보다 낮은 품질의 아이템이 선택되는 현상으로, 본 논문에서는 출처 편향에 의해 발생하는 비합리적 선택을 분석하는 지표로 사용됩니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 논문은 LLM 에이전트가 검색 및 선택 작업 수행 시 아이템의 내용보다 특정 Source에 근거하여 선택을 내리는 편향 문제를 다룹니다. 기존 연구들은 제한된 환경에서 소규모 실험만을 수행했기에, 실제 end-to-end 검색 환경에서 에이전트가 어떻게 출처 편향을 드러내고, 이것이 사용자 경험에 어떤 영향을 미치는지에 대한 실증적 분석이 부족합니다. 저자들은 이러한 Source Preference가 에이전트의 선택을 왜곡하여, 실제 더 우수한 아이템이 존재함에도 불구하고 특정 출처의 아이템이 우선시되는 문제를 해결하고자 합니다 [Figure 1].

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 WebShop, HotelQuEST, ScholarGym 등 3개 도메인에서 12개의 LLM Agents를 대상으로 실제 검색 환경에서의 출처 편향을 측정하는 프레임워크를 제안합니다. 저자들은 Bradley-Terry 모델을 사용하여 각 Source의 Preference Score($\tau_{s}$)를 정량화하고, 각 Source를 Source++, Source--, Source00으로 분류하였습니다. 실험 결과, 모든 에이전트 모델은 일관된 출처 선호를 보였으며, 선호도가 높은 출처의 아이템은 낮은 품질(요구사항 미충족)임에도 불구하고 높은 선택율을 기록했습니다. 특히, Source 정보를 은닉할 경우 편향이 감소하고, 정보를 복구하거나 의도적으로 레이블을 변경할 경우 선택 편향이 즉각적으로 변하는 것을 확인하여 Source 정보 자체가 에이전트 선택의 강력한 신호로 작동함을 증명했습니다 [Figure 4]. 또한, DPO 훈련 과정에서 출처가 요구사항 만족도의 '지름길(shortcut)'로 학습되는 경향이 있음을 밝히고, 관련 정보를 명시적으로 제공하거나 편향을 억제하는 프롬프트를 통해 이를 완화할 수 있음을 제시했습니다 [Table 3].

4. Conclusion & Impact (결론 및 시사점)

본 연구는 LLM 에이전트가 정보를 처리하는 과정에서 단순한 콘텐츠 평가를 넘어 특정 Source에 과도하게 의존하는 내재적 편향을 가지고 있음을 입증했습니다. 이러한 편향은 정보 검색 생태계에서 특정 플랫폼에 대한 가시성 쏠림 현상을 유발하며, 사용자에게 비최적화된 결과를 제공할 위험이 있음을 시사합니다. 본 논문에서 제안된 편향 완화 기법들은 향후 신뢰할 수 있는 에이전트 시스템을 설계하고, 데이터 편향성이 에이전트의 의사결정에 미치는 영향을 제어하는 데 중요한 토대가 될 것으로 기대됩니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.