[논문리뷰] How Can Rhetoric Reward-Hack AI Reviewers? Dissecting Rhetorical Sensitivity in AI-Based Peer Review

링크: 논문 PDF로 바로 열기

메타데이터

저자: Ming Li, Chenguang Wang, Xirui Li, Xinyue Zeng, Dianqi Li, Peng Shi, Dawei Zhou, Tianyi Zhou

---

1. Key Terms & Definitions (핵심 용어 및 정의)

• Reward Hacking: AI 시스템이 목적 함수(예: 논문 품질 평가)를 최적화하는 대신, 과학적 내용의 개선 없이 언어적/수사적 표현만을 변경하여 평가 점수를 높이는 부작용을 지칭합니다.
• Rhetorical Sensitivity: 동일한 과학적 내용을 전달할 때 사용된 수사적(Rhetorical) 선택이 AI 리뷰어의 점수 판단에 영향을 미치는 정도를 의미합니다.
• Agentic Rewriting Harness: 논문의 핵심 과학적 방법론과 증거는 보존하면서, 프롬프트를 통해 특정 수사적 차원을 의도적으로 변형하는 자동화된 전체 논문 수정 프레임워크입니다.
• Overall Assessment (OA): ICLR 가이드라인을 기반으로 한 논문의 종합적인 점수 지표로, 본 연구에서 AI 리뷰어의 판단을 측정하는 핵심 지표입니다.
• Strict Protocol: 단순한 점수 평가를 넘어, 높은 점수를 부여할 때 구체적인 증거를 요구하고 수사적 기교에 현혹되지 않도록 제한하는 강화된 AI 평가 프로토콜입니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

본 연구는 AI가 과학 논문 리뷰에 활용됨에 따라 발생하는 수사적 표현에 의한 평가 왜곡(Reward Hacking) 문제를 해결하고자 합니다. 기존 연구들은 논문의 실제 내용이 변하지 않더라도 수사적 표현만 바뀌면 AI의 평가 점수가 변할 수 있음을 지적했으나, 구체적으로 어떤 수사적 차원이 가장 큰 영향을 미치는지, 그리고 그러한 영향이 평가 조건에 따라 어떻게 변하는지에 대한 체계적인 분석은 부족했습니다 [Figure 1]. 저자들은 단순히 기존 논문들을 비교하는 방식으로는 수사적 효과와 실제 과학적 가치를 분리할 수 없다는 한계를 극복하기 위해, 제어된 환경에서 동일한 논문의 수사적 변형본을 생성하는 실험 설계를 제안합니다.

3. Method & Key Results (제안 방법론 및 핵심 결과)

본 논문은 ICLR 2026에 제출된 120편의 논문을 바탕으로 총 4,200개의 논문 변형본을 생성하여 5개의 LLM Reviewer를 통해 평가하는 체계적인 분석 프레임워크를 제안합니다 [Table 1]. 수사적 차원은 Novelty, Scope, Evidence, Contribution, Technical Register, Linguistic Complexity 등 6가지로 정의되었으며, 각각 긍정적/부정적 방향으로 Rewriting을 수행했습니다. 주요 실험 결과에 따르면, Evidence Framing과 Novelty Stance가 OA에 가장 큰 정량적 영향을 미치는 요소로 확인되었습니다 [Table 3]. 긍정적 Evidence Framing은 OA를 최대 0.93점 상승시켰으며, 부정적 Novelty Stance는 OA를 0.73점 하락시키는 등 명확한 대조를 보였습니다 [Figure 2]. 또한, AI 리뷰어의 기존 점수가 낮을수록 수사적 표현 변화에 따른 점수 상승폭이 크고, 점수가 높을수록 하락폭이 커지는 경향이 관찰되었습니다. Strict Protocol 적용 시 평균 OA가 1.36점 하락했지만, 수사적 차원에 대한 민감도 자체는 크게 변화하지 않아 평가 시스템의 내재적 취약성을 시사했습니다 [Table 3].

4. Conclusion & Impact (결론 및 시사점)

본 연구는 AI 리뷰 시스템이 특정 수사적 차원에 편향적으로 반응하는 수사적 민감성(Rhetorical Sensitivity)을 가지고 있음을 증명했습니다. 결과적으로, 더 복잡한 Rewriting 방식이 항상 더 높은 점수를 보장하지는 않으며, 수사적 효과는 Rewriter 모델과 Reviewer 모델 간의 상호작용에 크게 의존하는 것으로 나타났습니다. 이 연구는 AI 기반 평가 시스템이 학술 생태계에 정착하기 위해 논문의 과학적 실체(Substance)와 표현(Presentation)을 엄격히 구분할 수 있는 보다 강력한 평가 메커니즘이 필요함을 시사합니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.