[논문리뷰] HDP: A Lightweight Cryptographic Protocol for Human Delegation Provenance in Agentic AI Systems

링크: 논문 PDF로 바로 열기

저자: Asiri Dalugoda, et al.

## 1. Key Terms & Definitions (핵심 용어 및 정의)

• HDP (Human Delegation Provenance) : human principal이 에이전트에게 권한을 위임할 때 발생하는 다단계 위임 체인을 cryptographically하게 추적하고 검증하기 위한 경량화된 토큰 기반 프로토콜입니다.
• Ed25519 : HDP에서 모든 서명 생성 및 검증에 사용되는 고성능, 고보안의 Edwards-curve Digital Signature Algorithm 입니다.
• RFC 8785 (JSON Canonicalization Scheme) : 토큰의 결정론적 직렬화를 보장하여, 서로 다른 환경에서도 일관된 signature verification이 가능하도록 하는 표준입니다.
• Append-only Chain : 에이전트의 위임 이력이 순차적으로 추가되는 구조로, 이전 모든 hop의 서명을 포함하여 위변조를 방지하는 HDP의 핵심 데이터 구조입니다.
• Session Binding : 토큰이 발행된 특정 세션 내에서만 유효하도록 제한하여, 캡처된 토큰의 재사용 공격(Replay Attack)을 차단하는 보안 기법입니다.

## 2. Motivation & Problem Statement (연구 배경 및 문제 정의) 본 논문은 에이전트 기반 AI 시스템에서 발생하는 구조적인 Accountability Gap 을 해결하기 위해 고안되었습니다. 인간이 orchestrator 에이전트에게 작업을 위임하고, 이것이 하위 에이전트들을 거쳐 최종 tool-execution 에이전트에 도달하는 과정에서 인간의 승인 이력이 끊기는 문제가 발생합니다. 기존의 IAM(Identity and Access Management) 표준은 에이전트 간의 동적이고 다단계적인 위임 관계를 반영하지 못하며, 이로 인해 post-hoc 감사가 불가능하고, prompt injection 공격을 정상적인 위임 작업과 구분하기 어렵다는 한계가 있습니다. 이러한 문제를 시각적으로 묘사한 토큰 구조가 `

`에 제시되어 있습니다.

## 3. Method & Key Results (제안 방법론 및 핵심 결과) HDP는 인간의 인증 정보를 세션과 바인딩하고, 각 에이전트의 위임 행위를 순차적으로 기록하는 append-only 구조의 서명 토큰을 통해 accountability를 제공합니다. 제안된 방법론의 핵심은 검증 과정에서 offline 환경을 지원한다는 점이며, 별도의 registry 조회나 third-party trust anchor 없이 Ed25519 public key만으로 전체 provenance 기록을 검증할 수 있습니다. 시스템 성능 면에서 Ed25519 서명 검증은 100 마이크로초(microseconds) 이내에 완료되며, 10-hop 위임 체인의 경우 전체 검증 시간이 2밀리초(milliseconds) 미만으로 소요되어 고속 에이전트 파이프라인에 최적화되어 있습니다. 또한, 토큰 크기는 10-hop 기준 4-8 KB 수준으로 작아 minimal footprint 를 유지합니다. 본 프로토콜의 설계 원칙은 제약이 적고 latency-sensitive한 환경에서 높은 범용성을 보장합니다.

## 4. Conclusion & Impact (결론 및 시사점) 본 논문은 에이전트 AI 시스템의 accountability gap을 해소할 수 있는 경량화되고 offline 검증 가능한 HDP 프로토콜을 제시합니다. 이 연구는 AI 거버넌스 프레임워크가 성숙해지는 시점에서, autonomous agent의 작업에 대한 인간의 책임 소재를 추적할 수 있는 기술적 토대를 제공합니다. IETF Internet-Draft로 표준화 과정을 밟고 있는 이 프로토콜은, AI agent 생태계 내에서 prompt injection과 같은 공격을 감지하고 투명성을 확보하려는 보안 산업계에 중요한 기여를 할 것으로 기대됩니다.

---

Part 2: 중요 Figure 정보

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.