[triton] AMD: range analysis 버그 수정 및 buffer-ops의 range analysis 의존성 강화

PR 링크: triton-lang/triton#8372 상태: Merged | 변경: +1007 / -430

들어가며

AMD GPU의 buffer operations는 2GB 오프셋 제한이 있어, 텐서 접근이 이 범위 안에 있는지 검증해야 합니다. 기존 구현에는 range analysis와 buffer-ops 변환 모두에 여러 버그가 있었습니다. 이번 PR은 이 두 영역의 근본적인 문제를 수정합니다.

핵심 코드 분석

Range Analysis 수정

Bug 1: make_range 범위 오류

• Before: make_range(begin, end) → 범위 [begin, end] (end 포함)
• After: make_range(begin, end) → 범위 [begin, end-1] (end 미포함, Python 시맨틱과 일치)

Bug 2: tl.assume의 제어 흐름 미고려

• Before: tl.assume(x > 0)이 x의 모든 사용에 적용
• After: assume과 x 사용 사이의 제어 흐름 관계를 고려

Buffer-ops 변환 수정

# 기존 테스트 기대값 변경 예시
# amd-convert-buffer-ops.mlir
# Before: 대형 텐서에도 무조건 buffer_load 적용
# COMMON: buffer_load %arg0[%[[offset]]]

# After: byte-offset이 [0, 2G-elem_size] 범위인지 검증
# COMMON-NOT: buffer_load  # 범위 증명 불가 시 buffer_load 사용 안 함

핵심 변경: 기존에는 element-index >= 0만 확인했지만, 올바른 조건은 byte-offset이 [0, 2G - element_size] 범위 안에 있는 것입니다.

왜 이게 좋은가

1. 정확한 범위 분석: make_range의 off-by-one 오류 수정으로 모든 범위 기반 최적화의 정확성이 향상됩니다.
2. 안전한 buffer-ops: 2GB 제한을 byte 수준에서 정확히 검증하여 잘못된 buffer 접근을 방지합니다.
3. 대형 텐서 지원: 2GB 이상 텐서에 대한 ad-hoc 범위 분석을 제거하고, 범용 range analysis 결과에 의존하도록 통합했습니다.

정리

이 PR은 1007줄 추가라는 대규모 변경이지만, 핵심은 "element index >= 0"이라는 불충분한 조건을 "byte offset in [0, 2G - elem_size]"라는 정확한 조건으로 바꾼 것입니다. 컴파일러 최적화에서 정확한 범위 분석이 얼마나 중요한지를 잘 보여줍니다.

참고 자료

• triton-lang/triton#8372
• ROCm/triton-internal#1180

---

이 글은 AI(Claude)의 도움을 받아 작성되었으며, PR의 실제 diff를 기반으로 분석한 내용입니다.