[uvloop] Transport.write 즉시 전송으로 레이턴시 감소 및 성능 최적화

PR 링크: MagicStack/uvloop#619 상태: Merged | 변경: +49 / -54

들어가며

네트워크 프로그래밍에서 쓰기(write) 연산의 레이턴시는 전체 처리량에 직결됩니다. uvloop의 Transport.write는 데이터를 libuv의 쓰기 큐에 넣고 이벤트 루프가 이를 비동기로 처리하는 방식이었습니다. 하지만 쓰기 버퍼가 완전히 비어 있는 상황에서도 이 경로를 거치면 불필요한 레이턴시가 발생합니다. 이번 PR은 모든 쓰기 버퍼가 비어있을 때 uv_try_write를 통해 데이터를 즉시 전송하는 fast-path를 도입합니다.

핵심 코드 분석

1. _try_write 반환값 의미 변경

Before:

cdef inline _try_write(self, object data):
    # 반환: 0=전체 전송, -1=EAGAIN, None=fatal error, 양수=부분 전송

After:

cdef inline Py_ssize_t _try_write(self, object data) except -2:
    # Returns number of bytes written.
    # -1 - in case of fatal errors
    # EAGAIN returns 0 instead of -1

기존에는 "전체 전송 완료"와 "EAGAIN(나중에 다시 시도)" 모두 마이너스 값을 사용하여 혼란스러웠습니다. 새 API는 실제 전송된 바이트 수를 반환하며, EAGAIN은 0(아무것도 전송 안 됨), fatal error는 -1로 명확히 구분합니다.

2. _initiate_write의 fast-path 조건 완화

Before:

cdef inline _initiate_write(self):
    if (not self._protocol_paused and
            (<uv.uv_stream_t*>self._handle).write_queue_size == 0 and
            self._buffer_size > self._high_water):
        # high water mark 초과 시에만 즉시 전송 시도
        all_sent = self._exec_write()

After:

cdef inline _initiate_write(self):
    cdef bint all_sent

    if (not self._protocol_paused and
        (<uv.uv_stream_t*>self._handle).write_queue_size == 0):
        # 버퍼가 비어있으면 항상 즉시 전송 시도
        all_sent = self._exec_write()

핵심 변경입니다. 기존에는 self._buffer_size > self._high_water 조건이 있어서, 버퍼된 데이터가 high water mark를 초과할 때만 즉시 전송을 시도했습니다. 이 조건을 제거하여, libuv의 쓰기 큐가 비어있기만 하면 항상 _exec_write를 통한 즉시 전송을 시도합니다.

3. _exec_write에서 전체 전송 완료 판단 개선

Before:

if sent == 0:
    # All data was successfully written.
    self._buffer_size = 0
    self._buffer.clear()
    self._on_write()
    return True

After:

if sent == len(data):
    # The most likely and latency sensitive outcome goes first,
    # all data was successfully written.
    self._buffer_size = 0
    self._buffer.clear()
    self._on_write()
    return True

sent == 0(매직 넘버)이 아닌 sent == len(data)로 비교하여 "전체 데이터가 전송되었는가"를 직접적으로 확인합니다. 주석에서도 "가장 가능성 높고 레이턴시에 민감한 결과를 먼저 처리"한다고 명시하고 있습니다.

왜 이게 좋은가

1. 레이턴시 감소: 쓰기 버퍼가 비어있는 일반적인 경우(대부분의 요청-응답 패턴), 데이터가 이벤트 루프 큐를 거치지 않고 즉시 커널에 전달됩니다. 이는 특히 소규모 패킷의 레이턴시를 크게 줄입니다.

2. API 명확성 향상: _try_write의 반환값이 실제 전송 바이트 수를 나타내도록 변경되어, 코드 가독성과 디버깅 용이성이 향상되었습니다.

3. 타입 안전성 강화: except -2 절을 추가하여 Cython 레벨에서 예외 전파를 명시적으로 처리합니다. bint 반환 타입도 추가하여 C 레벨 최적화를 활용합니다.

정리

이 PR은 uvloop의 Transport.write 경로를 최적화하여, 쓰기 버퍼가 비어있을 때 데이터를 즉시 전송하는 fast-path를 기본으로 활성화합니다. 반환값 의미 변경과 조건 완화를 통해 코드 명확성과 성능을 동시에 개선한 좋은 사례입니다.

참고 자료

• MagicStack/uvloop#619
• libuv uv_try_write 문서

---

이 글은 AI(Claude)의 도움을 받아 작성되었으며, 실제 PR의 코드 변경 사항을 기반으로 분석한 내용입니다.