#Bug Fix

69개의 포스트

[sglang] HiCache 메모리 누수 수정: host indices clone으로 참조 해제 보장

SGLang HiCache에서 host_indices를 clone하지 않아 발생하는 메모리 누수 버그를 수정한 코드 분석. 텐서 참조 공유의 위험성을 살펴봅니다.

#SGLang #HiCache #Memory Leak #Bug Fix #PyTorch #Tensor

2026년 4월 2일

[triton] AMD Canonicalize Pointers에서 arith.select의 비대칭 fat pointer 처리 강화

Triton AMD 백엔드의 포인터 정규화 과정에서 한쪽만 base+offset 분리된 arith.select를 안전하게 처리하도록 수정한 PR을 분석합니다.

#Triton #AMD #Compiler #Bug Fix #MLIR

2026년 4월 1일

[Grafana Loki] Bitmap.Slice에서 바이트 정렬 경계의 off-by-one 패닉 수정

endWord 계산에서 8의 배수일 때 1바이트를 초과 할당하여 발생하는 out-of-bounds 패닉을 올림 나눗셈으로 수정한 버그 분석.

#Grafana Loki #Go #Bug Fix #Bitmap #Memory

2026년 4월 1일

[sglang] Multi-GPU VLM 서빙에서 ShmPointerMMData broadcast race condition 수정

Multi-GPU VLM 서빙 시 shared memory 세그먼트의 broadcast race condition을 barrier로 해결

#SGLang #VLM #Multi-GPU #Race Condition #Bug Fix

2026년 4월 1일

[Ray] Parquet 배치 크기를 C++ 32비트 정수 범위로 클램핑하여 OverflowError 수정

Ray Data에서 PyArrow의 to_batches가 C int(32비트)로 batch_size를 전달할 때 발생하는 OverflowError를, 값 범위 클램핑으로 해결한 버그 수정을 분석합니다.

#Ray #PyArrow #Parquet #Bug Fix #Data Processing

2026년 4월 1일

[sglang] NPU 호환성 수정: empty_cache와 memory_saver 충돌 해결

Ascend NPU 환경에서 empty_cache 호출 위치를 조정하여 memory_saver_adapter.region과의 충돌을 해결하고, Triton 비지원 백엔드 목록에 ascend를 추가한 분석.

#SGLang #NPU #Ascend #Memory Management #Bug Fix

2026년 3월 31일

[CPython] SyntaxError 재초기화 시 메모리 누수 수정

SyntaxError 객체를 __init__으로 재초기화할 때 기존 속성의 참조가 해제되지 않아 발생하던 메모리 누수를 Py_XSETREF로 수정한 분석.

#CPython #SyntaxError #Memory Leak #Reference Counting #Bug Fix #C

2026년 3월 30일

[CPython 3.13] SyntaxError 재초기화 시 메모리 누수 수정 (backport)

SyntaxError __init__ 재호출 시 기존 속성의 참조가 누수되던 문제를 Py_XSETREF로 수정한 3.13 backport 분석.

#CPython #SyntaxError #Memory Leak #Backport #Bug Fix #C

2026년 3월 30일

[sglang] Qwen3.5 MoE 모델 로딩 및 Mamba 캐시 PP 모드 샤딩 수정

SGLang에서 Qwen3.5 MoE 모델의 Pipeline Parallelism 로딩 시 weight 필터링 누락과 Mamba 캐시 레이어 범위 계산 오류를 수정한 분석.

#SGLang #Qwen3.5 #MoE #Pipeline Parallelism #Mamba #Bug Fix

2026년 3월 30일

[SGLang] Mamba 캐시 누수 수정: adder 실패 시 pool index 회수

요청 추가 실패 시 할당된 mamba_pool_idx를 해제하지 않아 발생하는 메모리 누수를 수정한다

#SGLang #Mamba #Bug Fix #Memory Leak

2026년 3월 30일

[CPython] sqlite3 콜백 컨텍스트의 메모리 관리 버그 수정

sqlite3 모듈의 내부 callback context 메모리 관리 결함을 수정하여 MemoryError 대신 SystemError가 발생하던 문제와 SQLITE_BUSY 시 crash를 해결한 분석.

#CPython #sqlite3 #Memory Management #Bug Fix #C

2026년 3월 29일

[CPython] 64-bit ARM 커널에서 32-bit ARM Android의 sysconfig ABI 감지 수정

armv8l 머신에서 Python sysconfig가 잘못된 ABI를 반환하던 문제를 수정한 CPython 패치 분석.

#CPython #Android #ARM #sysconfig #Bug Fix #Python

2026년 3월 27일

[CPython 3.14] OrderedDict.popitem() 메모리 누수 수정 (backport)

OrderedDict popitem()에서 에러 경로의 Py_DECREF(key) 누락으로 인한 메모리 누수를 수정한 3.14 backport 분석.

#CPython #OrderedDict #Memory Leak #Backport #Bug Fix #C

2026년 3월 27일

[CPython] OrderedDict.popitem()의 메모리 누수 수정

OrderedDict의 popitem() 메서드에서 에러 경로에서 key 참조를 해제하지 않아 발생하던 메모리 누수를 수정한 분석.

#CPython #OrderedDict #Memory Leak #Bug Fix #C #Reference Counting

2026년 3월 27일

[sglang] CI 버그 수정: /rerun-ut 동시 실행 시 중복 워크플로우 URL 문제 해결

SGLang CI에서 /rerun-ut 커맨드를 동시에 여러 개 실행할 때 잘못된 워크플로우 URL이 게시되는 버그를 run-name에 test_command를 포함시켜 수정한 분석.

#SGLang #CI #GitHub Actions #Bug Fix #Workflow

2026년 3월 26일

[sglang] AMD/ROCm 시작 크래시 수정: CuteDSL KDA 커널 Lazy Import 적용

SGLang에서 CuteDSL KDA 커널의 top-level import가 AMD/ROCm 환경에서 시작 시 크래시를 유발하는 문제를 lazy import로 수정한 분석.

#SGLang #AMD #ROCm #Bug Fix #Lazy Import #Linear Attention

2026년 3월 25일

[axolotl] Context Parallel 이중 시퀀스 분할 버그 수정: noop context manager로 중복 적용 방지

Context Parallel 학습 시 accelerate와 axolotl이 시퀀스를 이중으로 분할하는 문제를 noop context manager 패치로 해결한 사례를 분석합니다.

#Axolotl #Context Parallel #Distributed Training #Bug Fix

2026년 3월 20일

[PaddleOCR] MCP 서버에서 모든 OCR 결과 배치를 파싱하도록 수정

로컬 OCR 결과의 첫 번째 배치만 처리하던 버그를 수정하여 전체 결과를 올바르게 파싱합니다.

#PaddleOCR #MCP #Bug Fix #OCR #Python

2026년 3월 20일

[axolotl] Tensor Parallelism batch_size 계산 버그 수정: dp_world_size 기반으로 전환

Tensor Parallelism 환경에서 batch_size와 total_num_steps가 잘못 계산되던 버그를 dp_world_size 기반으로 수정하고, 파라미터화된 테스트를 추가한 사례를 분석합니다.

#Axolotl #Tensor Parallelism #Distributed Training #Bug Fix

2026년 3월 20일

[ray] Ray Serve P99 레이턴시 회귀 수정 — 큐 길이 캐시 미감소 버그

큐 길이 캐시가 증가만 하고 감소하지 않아 발생한 P99 레이턴시 회귀를 수정

#Python #Ray Serve #Performance #Bug Fix #Distributed Systems

2026년 3월 17일

[PyTorch] Inductor MPS Metal 셰이더 half-precision 타입 불일치 수정

Metal 셰이더 codegen에서 half 타입의 masked/where 연산 시 타입 불일치를 static_cast로 수정한다

#PyTorch #MPS #Metal #Bug Fix

2026년 3월 11일

[triton] AMD FpSan dot 에뮬레이션의 MFMA/WMMA encoding 호환성 수정

FP Sanitizer의 dot 에뮬레이션에서 MFMA/WMMA 인코딩 대신 최적화된 blocked layout을 사용하고 cross-warp barrier를 추가하여 정확성을 보장한 PR을 분석합니다.

#Triton #AMD #FpSan #Bug Fix #MFMA

2026년 3월 6일

[Loki] 컨텍스트 취소 시 downstreamer goroutine 누수 방지

Loki 쿼리 프론트엔드의 downstreamer에서 컨텍스트 취소 시 goroutine이 영구적으로 블로킹되는 누수를 select로 수정한 PR 분석.

#Grafana Loki #Go #Goroutine Leak #Context Cancellation #Channel #Bug Fix

2026년 3월 5일

[triton] AMD BlockPingpong 패스의 non-MFMA dot 크래시 수정

AMD BlockPingpong 최적화가 FMA 기반 dot 연산에 적용되어 발생하던 크래시를 안전한 타입 캐스팅으로 수정한 PR을 분석합니다.

#Triton #AMD #Bug Fix #Pingpong #MFMA

2026년 3월 3일

[pydantic-ai] 병렬 도구 실행 시 예외 발생 시 형제 태스크 취소 버그 수정

asyncio 병렬 도구 실행에서 CancelledError 외 예외 발생 시 형제 태스크가 고아 상태로 남는 버그를 수정한 사례를 분석합니다.

#pydantic-ai #asyncio #Python #Bug Fix #Concurrency

2026년 3월 2일

[axolotl] Context Parallelism batch_size 및 total_num_steps 계산 수정

Context Parallel 환경에서 batch_size가 과대 계산되고 total_num_steps에 CP size가 잘못 곱해지던 버그를 effective dp world_size 기반으로 수정한 사례를 분석합니다.

#Axolotl #Context Parallel #Distributed Training #Bug Fix

2026년 3월 2일

[axolotl] SchedulerMixin.create_scheduler() optimizer 누락 버그 수정

create_scheduler에 optimizer가 전달되지 않았을 때 self.optimizer로 fallback하지 않아 발생하는 에러를 수정한 사례를 분석합니다.

#Axolotl #Scheduler #Bug Fix #Training

2026년 3월 2일

[Ray Autoscaler] ALLOCATION_TIMEOUT에서 TERMINATED로의 상태 전이 허용

KubeRay 파드가 할당 타임아웃 후 사라졌을 때 상태 머신이 TERMINATED 전이를 거부하여 발생하던 assertion 오류를 수정한 분석.

#Ray #Python #Bug Fix #Autoscaler #KubeRay

2026년 3월 2일

[Open WebUI] 모델 생성 페이지 메모리 누수 수정: 이벤트 리스너 해제

onMount에서 등록한 message 이벤트 리스너가 해제되지 않아 발생하는 메모리 누수를 수정한 PR 분석.

#Open WebUI #Frontend #Memory Leak #Svelte #Event Listener #Bug Fix

2026년 2월 28일

[Triton] AsyncCompileMode 에러 발생 시 active_mode 초기화 보장

context manager exit에서 예외 발생 시에도 active_mode를 None으로 설정하여 후속 컴파일 블록킹 방지

#Triton #Python #Bug Fix #Error Handling #Async Compilation

2026년 2월 24일

[pytorch] MPS: 2-pass SDPA의 메모리 손상을 float accumulator 강제로 수정

Apple MPS 백엔드의 2-pass Scaled Dot-Product Attention에서 half precision accumulator로 인한 메모리 손상 버그를 float32 강제 전환으로 해결한 사례를 분석합니다.

#PyTorch #MPS #SDPA #Attention #Precision #Apple Silicon #Bug Fix

2026년 2월 24일

[Ray] Dashboard 죽은 노드 캐시의 변수 섀도잉 버그 수정

dead node 캐시 오버플로우 시 evict할 노드 ID가 현재 노드 ID를 섀도잉하여 살아있는 노드가 삭제되는 버그 수정 분석.

#Ray #Python #Bug Fix #Dashboard #Caching

2026년 2월 23일

[Triton] 모듈 언로드 테스트 비결정적 실패 수정 — GC 비활성화로 안정성 확보

Python garbage collector가 테스트 중 module_unload callback을 예기치 않게 호출하는 비결정적 실패를 수정한다

#Triton #Python #Testing #Garbage Collection #Bug Fix

2026년 2월 19일

[Triton] HIPBackend에서 import torch 가드 추가 — JAX 호환성 복원

torch 없는 환경(jax-triton)에서 AMD 백엔드 사용 시 ImportError 수정

#Triton #AMD #Python #Bug Fix #Compatibility

2026년 2월 17일

[pydantic-ai] 클라이언트 연결 해제 시 StopAsyncIteration 방지를 위한 aclosing 적용

_stream_text_deltas를 aclosing으로 감싸 클라이언트 중단 시 비동기 제너레이터가 올바르게 정리되도록 수정한 사례를 분석합니다.

#pydantic-ai #asyncio #Streaming #Bug Fix #Resource Management

2026년 2월 16일

[pydantic-ai] xAI 프로바이더에서 gRPC 이벤트 루프 불일치 버그 수정

xAI AsyncClient가 생성 시점과 다른 이벤트 루프에서 사용될 때 발생하는 RuntimeError를 지연 생성 패턴으로 해결한 사례를 분석합니다.

#pydantic-ai #xAI #gRPC #asyncio #Bug Fix

2026년 2월 14일

[Triton] Blackwell 2D activation-scale layout에서 ragged metadata 없이 동작하도록 수정

2D 입력 + ragged_metadata=None 조합에서 batched 모드로 fallback하여 레이아웃 구성 실패 방지

#Triton #NVIDIA #Blackwell #MXFP #Bug Fix

2026년 2월 11일

[Triton] grouped_gemm 벤치마크 min/max ms 반환 순서 수정

perf_report에서 error bar가 뒤집히는 문제를 반환값 순서 교정으로 해결

#Triton #Tutorial #Bug Fix #Benchmark

2026년 2월 11일

[triton] Membar 분석 함수 호출 시 smem offset 수정

Triton의 membar 분석에서 callee 함수의 shared memory 접근을 caller 컨텍스트로 변환할 때, allocation offset을 올바르게 반영하도록 수정한 PR을 분석합니다.

#Triton #Memory Barrier #Shared Memory #Function Call #Bug Fix

2026년 2월 9일

[Triton] AMD GFX9에서 AsyncCopy shared layout order 수정

getElementsPerThread 대신 getContigPerThread를 사용하고 vecSize를 하드웨어 지원 범위로 clamp하여 coalesced direct-to-LDS 쓰기 보장

#Triton #AMD #GFX9 #Async Copy #Bug Fix

2026년 2월 5일

[pydantic-ai] Bedrock CachePoint가 여러 trailing 문서 사이에 잘못 배치되는 버그 수정

AWS Bedrock에서 복수의 문서/비디오가 연속될 때 CachePoint가 마지막 문서 앞이 아닌 전체 그룹 앞에 올바르게 배치되도록 수정한 사례를 분석합니다.

#pydantic-ai #AWS Bedrock #Caching #Bug Fix #Refactoring

2026년 2월 5일

[pydantic-ai] OpenAI prompt_cache_retention 리터럴 타입 오류 수정

OpenAI SDK의 타입 스텁이 'in-memory'로 정의했지만 실제 API는 'in_memory'를 요구하는 불일치를 수정한 사례를 분석합니다.

#pydantic-ai #OpenAI #Type Safety #Bug Fix #API

2026년 1월 29일

[Loki] 자식 할당자가 반환한 메모리의 조기 해제 방지

Grafana Loki의 메모리 할당자에서 자식 할당자가 부모에게 반환한 메모리가 부모의 Reset 시 Go 런타임으로 조기 해제되는 버그를 3상태 비트맵 도입으로 수정한 PR을 분석합니다.

#Grafana Loki #Memory Management #Go #Allocator #Bug Fix

2026년 1월 20일

[Ray Data] AutoscalingCoordinator에서 여러 데이터셋 실행 시 리소스 이중 할당 방지

request_remaining=True인 요청자가 여러 개일 때 잔여 리소스를 모두에게 중복 할당하던 문제를 균등 분배로 수정한 분석.

#Ray #Python #Bug Fix #Autoscaling #Resource Management

2025년 12월 31일

[pydantic-ai] 스트리밍에서 중복 도구 호출 방지 및 결과 캐싱 추가

partial_output=False일 때 stream_output/stream_text/get_output의 반복 호출 시 중복 검증과 도구 호출을 방지하기 위한 결과 캐싱을 추가한 사례를 분석합니다.

#pydantic-ai #Streaming #Caching #Bug Fix #Output Validation

2025년 12월 27일

[Triton] AMD에서 non-integer 타입 atomic-cas 시 컴파일러 크래시 수정

float 타입 atomic CAS를 integer bitcast로 감싸서 LLVM cmpxchg 명령어 생성 시 core dump 방지

#Triton #AMD #Bug Fix #Atomic Operations #LLVM

2025년 12월 27일

[Triton] LLVM Debug Information에서 커널 인자 누락 수정

Triton FuncOp에서 LLVM IR 변환 시 포인터 타입의 pointee 정보가 유실되어 디버그 정보에 커널 인자가 누락되는 버그를 수정

#Triton #LLVM #Debug Info #Bug Fix

2025년 12월 25일

[Triton] ext slice rematerialization 견고성 개선 — 실패 시 원본 보존

레이아웃 변환 제거 패스에서 ext backward slice 탐색 실패 시 원본 데이터가 오염되는 버그를 수정한다

#Triton #MLIR #Compiler Optimization #Layout Conversion #Bug Fix

2025년 12월 24일

[Triton] SWP 루프 로우어링에서 barrier 위치 결정 로직 수정

MMA의 non-pipelined operand와 tmem_load 간 barrier 위치를 linearized schedule 기반으로 정확히 결정

#Triton #NVIDIA #Pipelining #SWP #Bug Fix

2025년 12월 22일

[Open WebUI] FileMetadataResponse의 meta 필드를 Optional로 변경하여 배치 추가 오류 수정

Open WebUI에서 메타데이터가 없는 파일을 Knowledge에 배치 추가할 때 Pydantic 유효성 검사 오류가 발생하던 문제를, meta 필드를 Optional로 변경하여 수정한 버그 픽스를 분석합니다.

#Open WebUI #Python #Pydantic #Bug Fix #Data Validation

2025년 12월 20일

[Triton] ConSan에서 barrier 다중 도착 시 false positive deadlock 감지 수정

barrier_expect를 arrive로 모델링하여 여러 TMA copy가 같은 barrier를 공유할 때 발생하는 오탐 deadlock 해결

#Triton #ConSan #Concurrency Sanitizer #Bug Fix #TMA

2025년 12월 19일

[Triton] Frontend에서 scaled batched matrix multiply 지원

dot_scaled의 shape 검증을 마지막 2차원 기준으로 변경하여 BMM 연산을 올바르게 처리

#Triton #Frontend #BMM #MXFP #Bug Fix

2025년 12월 18일

[Triton] AMD scf.if else 분기 누락 버그 수정 — deduceMinCountBetweeOps

scf.if에 else 영역이 없을 때 async wait count가 잘못 계산되는 버그 수정

#Triton #AMD #MLIR #Bug Fix #Compiler

2025년 12월 18일

[Triton] WGMMA register pipelining에서 누락된 wait 삽입 수정

Persistent matmul epilogue에서 accumulator 접근 시 필요한 wgmma wait 누락 버그 수정

#Triton #NVIDIA #MLIR #Bug Fix #Pipelining

2025년 12월 11일

[Triton] Hopper에서 소규모 배치 크기 벤치마크 수정

Hopper GPU에서 small batch MLP 벤치마크의 num_warps 설정과 테스트 케이스 추가

#Triton #Benchmark #Hopper #MLP #Bug Fix

2025년 12월 4일

[Triton] MXFP 포맷 출력 matmul 버그 2건 수정

MXFP downcast epilogue에서 scale 마스크 계산과 shared memory overflow 문제를 수정

#Triton #MXFP #Matmul #Bug Fix

2025년 12월 1일

[GPT-SoVITS] batch_size 변수의 부동소수점 타입 오류 수정

GPU 메모리 기반 자동 배치 크기 계산에서 정수 나눗셈 결과가 float로 반환되어 PyTorch DataLoader가 실패하던 버그 수정 분석.

#GPT-SoVITS #Python #Bug Fix #PyTorch #Training

2025년 11월 28일

[Grafana Loki] 파서의 문자열 인턴 셋에서 키 충돌 결과 캐싱 버그 수정

internedStringSet이 키 충돌(duplicate suffix) 결과까지 캐싱하여 다른 스트림에 잘못된 라벨이 적용되던 버그를, 충돌 감지를 캐시 밖으로 이동하여 수정한 분석.

#Grafana Loki #Go #Bug Fix #Parser #Performance

2025년 11월 24일

[pydantic-ai] Anthropic 캐시 가능 타입에 document 추가

Anthropic prompt caching에서 document 타입이 누락되어 캐시가 적용되지 않던 문제를 수정

#Python #Pydantic AI #Anthropic #Bug Fix #Caching

2025년 11월 21일

[Triton] Pipeliner에서 cp_async의 alignment 정보 손실 수정

async_copy Op에 optional contiguity 정보를 추가하여 컴파일러 변환 후에도 정렬 정보 유지

#Triton #Compiler #Pipeliner #Async Copy #Bug Fix

2025년 11월 18일

[Triton] Proton 메모리 누수 수정 및 미사용 변수 제거

Proton 프로파일러의 메모리 누수를 수정하고 미사용 변수를 정리하여 리소스 관리를 개선한다

#Triton #Proton #Memory Leak #Bug Fix #Code Cleanup

2025년 11월 11일

[pydantic-ai] Validation 에러 재시도 메시지 개선 — Markdown 코드 블록 포맷

LLM에게 전달하는 validation 에러 메시지를 Markdown 코드 블록으로 포맷하여 가독성 향상

#Python #Pydantic AI #LLM #UX #Bug Fix

2025년 11월 4일

[Triton] WGMMA wait op의 출력 constraint 타입별 분기 수정

f16 등 16비트 타입에서 잘못된 =r constraint 대신 =h를 사용하여 불필요한 cvt 제거

#Triton #NVIDIA #Bug Fix #Inline Assembly #WGMMA

2025년 10월 29일

[pydantic-ai] RunUsage.tool_calls 병렬 실행 시 과소 집계 버그 수정 (asyncio.Lock)

병렬 tool 실행 시 asyncio task 간 race condition으로 tool_calls가 누락되는 문제를 Lock으로 수정

#Python #Pydantic AI #Concurrency #Bug Fix #asyncio

2025년 10월 15일

[triton] AMD: range analysis 버그 수정 및 buffer-ops의 range analysis 의존성 강화

tl.assume의 제어 흐름 관계 미고려, make_range 범위 오류 등 range analysis의 근본적 버그를 수정하고 buffer-ops가 올바른 범위 검증을 수행하도록 개선한 분석.

#Triton #AMD #Range Analysis #Buffer Operations #Large Tensor #Bug Fix

2025년 10월 12일

[Triton] Blackwell barrierSlice 타이핑 버그 수정

numStages가 1일 때 barrierSlice 생성에서 발생하는 타입 불일치 버그를 수정

#Triton #NVIDIA #Blackwell #Bug Fix #Barrier

2025년 10월 9일

[Open WebUI] 리랭킹 모델의 pad_token_id 미설정 시 배치 처리 실패 수정

pad_token_id가 없는 리랭킹 모델에서 배치 크기 1 초과 시 발생하는 오류를 eos_token_id 폴백으로 해결한 수정 분석.

#Open WebUI #Python #Bug Fix #Reranking #Transformers

2025년 10월 7일

[Triton] ds_read_tr + padded layout에서 vec size를 min interval로 제한

padded shared memory 레이아웃에서 ds_read_tr의 벡터 크기가 padding 간격을 초과하지 않도록 수정

#Triton #AMD #Shared Memory #Padding #Bug Fix

2025년 10월 6일

[pydantic-ai] 병렬 tool call 제한 적용 방식 개선 — 사전 검증으로 전환

tool_calls_limit을 개별 tool 실행 시점이 아닌 batch 실행 전에 한번에 검증하도록 변경

#Python #Pydantic AI #Concurrency #Bug Fix #Architecture

2025년 10월 3일