본문으로 건너뛰기

[cpython] CPython 테스트 최적화: 30초의 대기를 1초 미만으로 단축하는 소켓 핸드셰이크 기법

PR 링크: python/cpython#149005 상태: Merged | 변경: +None / -None

들어가며

소프트웨어 개발에서 테스트 스위트의 실행 속도는 개발 생산성과 직결됩니다. 특히 CPython과 같은 거대 프로젝트에서는 수천 개의 테스트가 실행되므로, 단일 테스트의 실행 시간 단축이 전체 CI(Continuous Integration) 효율성에 큰 영향을 미칩니다.

최근 CPython 3.13 브랜치에 반영된 gh-141473 이슈 해결책은 subprocess 모듈의 특정 테스트 케이스(test_communicate_timeout_large_input)가 가진 'Long Tail' 문제를 해결했습니다. 기존 테스트는 자식 프로세스가 입력을 읽기 전까지 무조건 30초를 기다리도록 설계되어 있었으나, 이번 개선을 통해 이를 1초 미만으로 단축했습니다.

이 글에서는 단순한 time.sleep() 기반의 대기가 왜 나쁜지, 그리고 소켓을 이용한 부모-자식 간의 동기화가 어떻게 테스트 안정성과 성능을 동시에 잡았는지 분석합니다.

기존 방식의 문제점: 정적 대기(Static Sleep)의 한계

기존의 test_communicate_timeout_large_input 테스트는 subprocess.communicate()가 타임아웃 발생 시에도 내부적으로 파이프 버퍼를 적절히 처리하는지 검증하기 위해 작성되었습니다. 이를 위해 자식 프로세스가 의도적으로 입력을 늦게 읽도록 만들어야 했습니다.

Before

# Lib/test/test_subprocess.py

p = subprocess.Popen(
    [sys.executable, "-c",
     "import sys, time; "
     "time.sleep(30); "  # 무조건 30초를 대기함
     "sys.stdout.buffer.write(sys.stdin.buffer.read())"],
    stdin=subprocess.PIPE,
    stdout=subprocess.PIPE,
    stderr=subprocess.PIPE)

문제점:

  1. 비효율성: 타임아웃 로직 자체는 0.2초 만에 검증되지만, 테스트가 완전히 종료되려면 자식 프로세스의 sleep(30)이 끝날 때까지 기다려야 합니다.
  2. 불확실성: 30초는 CI 환경의 부하에 따라 충분할 수도, 부족할 수도 있는 임의의 숫자입니다.
  3. 리소스 낭비: 수많은 테스트가 이런 식으로 대기한다면 전체 테스트 시간은 기하급수적으로 늘어납니다.

개선된 방식: 루프백 소켓을 이용한 이벤트 기반 동기화

새로운 방식은 자식 프로세스를 무작정 잠재우는 대신, 부모 프로세스가 "이제 데이터를 읽어도 좋다"는 신호를 보낼 때까지 대기하게 만듭니다. 이를 위해 루프백(Loopback) TCP 소켓을 사용합니다.

After (자식 프로세스 로직 변경)

# Lib/test/test_subprocess.py

# 부모가 생성한 서버 포트로 접속하여 신호를 기다리는 로직
slow_reader = (
    "import os, socket, sys, select; "
    f"s = socket.create_connection(('127.0.0.1', {port}), timeout=9); "
    "s.sendall(bytes([os.getpid() & 0xff])); " # 핸드셰이크: PID 전송
    "select.select([s], [], [], 9); "           # 부모의 신호가 올 때까지 대기
    "sys.stdout.buffer.write(sys.stdin.buffer.read())"
)

After (부모 프로세스 제어 로직)

# 부모 프로세스에서 타임아웃 검증 후 자식을 깨움
try:
    # ... 타임아웃 발생 여부 검증 (약 0.2초 소요) ...
    
    # 검증이 끝났으므로 자식에게 'go' 신호를 보냄
    conn.sendall(b'go')
    conn.close()
    
    # 이제 자식은 즉시 stdin을 읽고 종료됨
    stdout, stderr = p.communicate()

핵심 변경 포인트 분석

  1. Cross-platform Compatibility: 왜 하필 소켓일까요? Windows의 select() 함수는 일반 파일 디스크립터(FD)를 지원하지 않고 오직 소켓만 지원합니다. 따라서 유닉스의 파이프 대신 TCP 소켓을 사용하여 윈도우 환경에서도 동일한 메커니즘이 작동하도록 설계했습니다.
  2. Handshake Verification: s.sendall(bytes([os.getpid() & 0xff])) 코드는 매우 흥미롭습니다. 임시 포트를 사용하다 보면 드물게 다른 프로세스가 해당 포트에 접속할 가능성이 있습니다. 자식 프로세스가 자신의 PID 하위 1바이트를 보내고 부모가 이를 검증함으로써, 올바른 자식 프로세스와 연결되었음을 보장합니다.
  3. Safety Net: select.select([s], [], [], 9)에서 9초의 타임아웃을 설정하여, 혹시라도 부모 프로세스가 죽거나 신호를 보내지 못하는 상황에서도 테스트가 영원히 좀비 상태로 남지 않도록 방어 코드를 구축했습니다.

왜 이게 좋은 최적화인가?

1. 극적인 성능 향상

기존 방식은 테스트 케이스 하나당 최소 30초가 소요되었습니다. 개선 후에는 부모의 타임아웃 검증(0.2초) 직후 자식이 바로 깨어나므로 전체 실행 시간이 1초 미만으로 줄어들었습니다. 이는 약 97% 이상의 속도 향상입니다.

2. 결정론적 테스트(Deterministic Testing)

time.sleep()은 추측에 의존합니다. 반면 소켓 기반 동기화는 이벤트 기반입니다. 부모가 준비되는 즉시 자식이 반응하므로, 시스템 부하에 관계없이 테스트가 항상 최적의 속도로 실행됩니다.

3. 리소스 안전성

try...finally 블록을 통해 소켓과 프로세스를 확실히 정리(cleanup)하도록 구현되었습니다. 이는 테스트 실패 시에도 포트 점유나 좀비 프로세스 발생을 방지합니다.

결론

이번 PR은 단순히 "잠시 기다리는" 코드를 "신호를 주고받는" 코드로 바꿈으로써 테스트 효율성을 극대화했습니다. 시니어 엔지니어로서 우리는 테스트 코드에서 time.sleep()을 발견할 때마다 의구심을 가져야 합니다. 더 나은 동기화 메커니즘(Event, Condition, Socket 등)이 있다면 그것을 도입하는 것이 테스트의 신뢰성과 속도를 모두 잡는 길입니다.

이 기법은 특히 네트워크 프로그램이나 멀티프로세싱 환경을 테스트할 때 유용하게 활용될 수 있는 패턴입니다.

참고 자료

⚠️ 알림: 이 분석은 AI가 실제 코드 diff를 기반으로 작성했습니다.

댓글

관련 포스트

PR Analysis 의 다른글