[논문리뷰] Visual Grounding Safety in Vision-Language Models

2026년 10월 12일수정: 2026년 10월 12일

링크: 논문 PDF로 바로 열기

메타데이터

저자: Erfan Shayegani, Kundan Krishna, Yue Dong, Nael Abu-Ghazaleh, Leon Gatys, Shruti Palaskar, et al.

## 1. Key Terms & Definitions (핵심 용어 및 정의)

Visual Grounding: 모델이 이미지 내의 특정 객체나 영역을 point 또는 bounding box 등의 좌표로 출력하는 기능.
Matched Pairs: 동일한 이미지와 유해한 의도를 가진 질문에 대해, 응답 형식만 VQA(텍스트)와 Grounding(좌표)으로 다르게 구성한 평가 데이터 세트.
Mismatched Generalization: 텍스트 기반의 안전성 정렬(Alignment)이 공간적 출력(Grounding)으로 일반화되지 않는 현상.
Over-refusal: 모델이 안전한 요청임에도 불구하고 유해하다고 판단하여 거절하는 현상.
Self-distilled Benign Data: 모델이 스스로 생성한 정답 중 유해하지 않은 데이터를 필터링하여 재학습에 활용하는 데이터 증강 기법.

## 2. Motivation & Problem Statement (연구 배경 및 문제 정의) 본 논문은 Vision-Language Models(VLMs)의 안전성 정렬이 텍스트 출력과 달리 행동 기반의 공간적 출력인 Visual Grounding에는 제대로 적용되지 않는다는 핵심 문제를 제기한다. 기존 연구들은 주로 텍스트 생성의 안전성에 집중해왔으나, 로봇이나 에이전트 시스템이 Grounding 좌표를 직접 행동으로 연결할 경우 심각한 위험이 발생할 수 있다. 실험 결과, 대부분의 모델이 동일한 질문에 대해 텍스트로는 거절하면서도 좌표값으로는 응답하는 불일치 현상이 관찰되었다 [Figure 1]. 이러한 Gap은 시스템 프롬프트(System Prompt)만으로는 해결되지 않으며, 이는 안전성 학습이 텍스트 형식에만 편향되어 발생한 일반화 오류에 기인한다.

## 3. Method & Key Results (제안 방법론 및 핵심 결과) 저자들은 Grounding 기반의 유해 요청 거절을 학습시키기 위해, grounding-form 거절 데이터, capability grounding 데이터, 그리고 모델 고유의 self-distilled benign 데이터를 결합한 새로운 Fine-tuning 접근 방식을 제안한다. 학습 시 텍스트 거절뿐만 아니라 non-actionable placeholder coordinates(예: [0,0,1,1])를 사용하여 좌표 형식의 일관성을 유지함으로써 하위 시스템의 오작동을 방지한다. 실험 결과, 제안 모델(Qwen3-VL-8B, VisionReasoner-7B)은 VLSU와 BBQ-V 도메인에서 기존 대비 거절률을 77~95%p 개선하였다 [Table 3]. 특히 학습되지 않은 도메인인 Asimov-2.0에서도 64~85%p의 높은 거절률을 달성하며 강력한 일반화 성능을 입증하였다. 또한, PointArena 벤치마크 결과 기존 Grounding 성능은 그대로 보존하였으며, Over-refusal 비율은 5.3% 이하로 제한하여 실용적인 안전성을 확보하였다 [Table 3].

## 4. Conclusion & Impact (결론 및 시사점) 본 논문은 VLMs의 안전성 정렬이 멀티모달 출력의 모든 채널로 확장되어야 함을 보여주며, 시각적 좌표 출력이 가지는 안전성 사각지대를 최초로 체계화하였다. 실험적으로 증명된 Mismatched Generalization 현상과 이를 해결하기 위한 Fine-tuning 전략은 차세대 멀티모달 모델의 안전성 아키텍처 구축에 필수적인 지침을 제공한다. 본 연구 결과는 향후 에이전트형 모델이나 로봇공학 분야에서 안전한 인터페이스를 설계하는 데 있어 중요한 학술적 근거가 될 것이다.