[논문리뷰] Humanized but Still True? Auditing Facts and Detection in AI-Text Humanizers

링크: 논문 PDF로 바로 열기

저자: Ziyuan Wang, Genliang Zhu, Xiaobo Chen

1. Key Terms & Definitions (핵심 용어 및 정의)

• AI Humanizer: AI가 생성한 텍스트를 AI detector가 사람이 쓴 글로 분류하도록 다시 써 주는 상용·오픈 도구입니다. 논문은 상용 도구 11종과 오픈 12B 모델(jialinyyzz/humanizer)을 평가합니다.
• Specified Units / Unit Retention: 원문에서 추출한 확인 가능한 단위로, 숫자·날짜, 사람·기관 이름, 따옴표 안의 3단어 이상 span(quoted span)을 가리킵니다. Unit Retention은 이 단위들이 rewrite 이후에도 살아남은 비율입니다. 변경되거나 사라진 단위는 "altered"로 집계합니다.
• Rule-based Fact Checker: 숫자는 값 기준으로, 이름은 spaCy NER과 surname·acronym 매칭으로, quoted span은 verbatim 일치로 비교하는 프로그램입니다. 검증은 사람이 아니라 두 AI annotator가 했으며, 결과는 precision 0.84–1.00, recall 0.93–0.95입니다.
• Jev (Decision Model): 질문 옵션마다 calibrated probability를 반환하는 범용 decision model입니다. 이 논문에서는 "Who produced this text?"라는 단일 zero-shot 질문에 대한 P(ai)를 detection score로 사용합니다.
• Matched Human Controls (F1 set): 같은 내용을 담은 human original, AI-styled rewrite(AI draft), humanized rewrite로 구성된 U.S. federal agency 텍스트입니다. GoHumanize 54개와 NEW2026 38개를 합쳐 총 92 passages입니다.

2. Motivation & Problem Statement (연구 배경 및 문제 정의)

이 논문의 핵심 문제는 기존 humanizer 평가가 detector evasion과 embedding similarity만 측정할 뿐, 구체적인 사실(숫자·이름·인용문)이 rewrite 이후에도 보존되는지는 측정하지 않는다는 점입니다. Embedding similarity는 숫자 하나가 바뀌거나 이름이 빠지거나 인용문이 바뀌어도 전체 의미가 비슷하면 높게 나옵니다. 따라서 출판된 humanized text가 사실과 다르게 되어도 이를 잡아내지 못합니다. 선행 연구의 한계는 다음과 같습니다.

• DAMAGE는 faithfulness를 정성적으로만 평가했습니다.
• Xu et al., Cheng et al.의 preservation–evasion trade-off 연구는 preservation을 LLM이 매긴 점수로 측정했습니다.

Detection 측면에서는 Binoculars, Fast-DetectGPT 같은 perplexity-based detector가 paraphrase에 취약하다는 사실이 이미 알려져 있습니다. 반면 범용 decision model이 matched human control 조건에서 humanized text를 구별할 수 있는지는 검증된 적이 없습니다. 저자들은 사실 보존(H1), fidelity–evasion trade-off(H2), decision model 기반 detection(H3)이라는 세 가설을 main run 이전에 pre-registration으로 고정해 이 공백을 다룹니다.

3. Method & Key Results (제안 방법론 및 핵심 결과)

저자들은 rule-based fact checker로 원문과 rewrite를 비교해 사실 보존을 정량화하고, matched human control로 여러 detector를 비교하는 audit 프레임워크를 제안합니다.

데이터와 평가 대상

• 사실 보존 평가에는 AI Humanizer Benchmark (AIHB) October 2026 cycle의 상용 출력 363개를 사용했습니다. September cycle은 개발용입니다.
• 오픈 12B humanizer는 4개 GGUF 파일(bf16, Q8_0, Q3-QAT, IQ2_XS-QAT)로 federal text를 다시 써 rewrite 368개를 만들었습니다.
• 두 low-bit 파일은 quantization 이후 quantization-aware training과 distillation을 거쳤습니다. 따라서 이 비교는 bit width 효과만 따로 떼어 낸 controlled ladder가 아닙니다.

Detector와 통계 방법

• 비교 대상은 Jev, Binoculars, Fast-DetectGPT(Falcon-7B pair), RoBERTa detector, 그리고 review 이후 post hoc으로 추가된 adversarially trained RADAR입니다.
• Confidence interval은 source text 또는 article 단위 bootstrap(2,000회)으로 계산했습니다.

H1: 상용 humanizer의 사실 변경

• 상용 도구 11종 모두가 적격 문서의 35–65%에서 하나 이상의 unit을 바꾸거나 삭제해 H1이 성립했습니다 [Figure 1]. September cycle은 19–50%였습니다.
• 변경의 대부분은 quoted span에서 일어났습니다. 다만 15개 quoted span 중 9개는 reported speech가 아니라 예시 문구, 용어, 수사적 질문이었습니다.
• 숫자와 이름만 집계해도 10/11 도구가 여전히 20% 이상이었습니다.

H1: 오픈 12B 모델

• Fact-dense federal text에서 숫자와 이름은 97% 이상 보존했습니다(숫자 손실 최대 2.8%, 이름 손실 최대 1.1%).
• 그러나 자기 prompt가 인용문을 그대로 두라고 지시하는데도 quoted span의 67–78%를 다시 썼습니다. 이 span은 대부분 이름이 명시된 인물의 발언이었습니다.

H2: Fidelity–Evasion Trade-off (지지되지 않음)

• 도구 간 retention과 evasion의 상관은 Spearman ρ = −0.46(95% CI −0.65 to 0.08)로, CI가 0을 포함해 H2a가 지지되지 않았습니다.
• Evasion이 가장 낮은 두 도구(human probability 0.13, 0.19)도 문서의 55%와 45%에서 사실을 바꿨습니다. 즉 evasion이 낮다고 fidelity가 높은 것은 아니었습니다.
• 12B 파일 간 retention은 0.972 → 0.964, evasion은 0.73–0.75로, pre-registered monotone 조건(H2b)을 충족하지 못했습니다.

H3: Detection (지지됨)

• Jev는 human original과 12B rewrite를 AUROC 0.864 (0.827–0.902)로 구분했습니다 [Figure 2].
• 이는 Binoculars보다 +0.211, Fast-DetectGPT보다 +0.176, RADAR보다 +0.215 높은 수치입니다.
• 5% FPR threshold에서 Jev의 TPR은 rewrite 0.565, draft 0.728이었습니다. 나머지 4개 detector는 rewrite의 5–20%만 flag했습니다. 이 threshold는 평가 텍스트 자체에서 정한 oracle operating point입니다.
• 단점도 있습니다. 0.5 threshold에서 Jev는 human original의 24%를 AI로 분류했고, calibration은 중간 수준(ECE 0.129)이었습니다.

Perplexity-based detector의 한계

• 2026 모델이 쓴 NEW2026 AI-styled rewrite에서 Binoculars(0.37)와 Fast-DetectGPT(0.39)는 chance 이하의 AUROC를 보였습니다.
• 모든 whitespace를 단일 공백으로 합친 format counterfactual에서도 이 결과는 사라지지 않고 오히려 더 나빠졌습니다(0.314, 0.302). 따라서 line break로는 설명되지 않습니다.
• Humanizing은 perplexity detector의 AUROC를 0.65–0.69로 높였지만, Jev의 AUROC는 0.943 → 0.864로 낮췄습니다.
• 이 우위는 matched control 설정에 한정됩니다. Matched human text가 없는 30-text 개발 pilot(상용 출력)에서는 Binoculars(0.80)와 Fast-DetectGPT(0.84)가 Jev(0.78)와 비슷했습니다.

4. Conclusion & Impact (결론 및 시사점)

이 논문은 상용 AI humanizer가 detector evasion 성능과 관계없이 숫자·이름·인용문 같은 검증 가능한 사실을 상당한 비율로 바꾼다는 점을 정량적으로 보였습니다. 또한 fidelity와 evasion 사이에는 신뢰할 만한 trade-off가 관찰되지 않았습니다. Detection 측면에서는 단일 zero-shot 질문을 받은 범용 decision model이 matched human control 조건에서 perplexity-based detector와 adversarially trained detector를 크게 앞섰습니다. 다만 human text에 대한 false positive(24%)가 높아 실제 배포에는 한계가 있습니다.

시사점

• 산업계: humanizer leaderboard와 사용자에게 embedding similarity를 넘어 unit-level fact fidelity를 평가 지표로 추가해야 한다는 근거를 제공합니다.
• 학계: 2026년 LLM의 AI-styled rewrite 앞에서 기존 perplexity-based zero-shot detector가 chance 이하로 떨어질 수 있다는 경고를 줍니다.
• 연구 방법론: hypothesis와 분석을 사전에 고정하는 pre-registration 방식과, 공개된 checker 및 per-item 결과가 재현 가능한 audit 연구의 모범 사례가 됩니다.

한계(저자 명시)

• Checker 검증에 사람이 아닌 AI annotator만 사용했습니다.
• Matched-control detection은 단일 genre(U.S. federal prose)에 한정됩니다.
• Decision model의 training data가 알려져 있지 않습니다.
• Perplexity detector가 chance 이하로 떨어지는 mechanism은 규명되지 않았습니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.