[TensorRT] PyTorch TensorRT: 메모리 복사 제거를 통한 엔진 빌드 최적화TensorRT 엔진 생성 시 발생하는 불필요한 메모리 복사를 제거하여 호스트 메모리 사용량을 절반으로 줄인 최적화 사례를 분석합니다.#PyTorch#TensorRT#C++#Memory Optimization#Performance2026년 10월 20일댓글 수 로딩 중
[TensorRT] PyTorch-TensorRT, 엔진 빌드 후 메모리 누수 해결: `malloc_trim` 도입으로 최적화PyTorch-TensorRT에서 엔진 빌드 후 발생하는 메모리 누수를 `malloc_trim`으로 해결하여 최적화한 PR을 분석합니다.#PyTorch#TensorRT#Optimization#Memory Management#Performance2026년 10월 8일댓글 수 로딩 중
[TensorRT] PyTorch-TensorRT의 메모리 효율성 개선: 점진적 GPU 메모리 해제를 통한 컴파일 최적화모델 컴파일 시 GPU 메모리 부족 문제를 해결하기 위해, 모듈 이동 중 점진적으로 CUDA 캐시를 비우는 최적화 기법을 소개합니다.#PyTorch#TensorRT#Memory Optimization#CUDA#Performance2026년 10월 8일댓글 수 로딩 중
[ultralytics] Ultralytics YOLOv10 TensorRT 엔진 성능 최적화: FP16 및 INT8 속도 향상 비결TensorRT 엔진의 FP16 및 INT8 추론 속도를 최대 20%까지 향상시키는 최적화 기법을 분석합니다.#YOLOv10#TensorRT#Optimization#Performance#FP16#INT8#CUDA Graph2026년 9월 20일댓글 수 로딩 중
[ultralytics] Ultralytics YOLO에 INT8 Quantization-Aware Training(QAT) 도입하기YOLO 모델의 INT8 QAT를 통해 학습 중 가중치를 최적화하여, 배포 시 정확도 손실을 최소화하는 방법을 소개합니다.#YOLO#DeepLearning#Quantization#TensorRT#Optimization2026년 9월 7일댓글 수 로딩 중
[Ultralytics] TensorRT 문서에서 더 이상 유효하지 않은 INT8 배치 2배 참조 제거INT8 캘리브레이션 시 배치 크기를 자동으로 2배로 늘리던 동작이 제거된 후, 관련 문서를 업데이트합니다.#Ultralytics#TensorRT#INT8#Quantization#Documentation2026년 3월 16일댓글 수 로딩 중