[ollama] Ollama Gemma4 모델의 CUDA Prefill 성능 최적화: MLX SDPA 도입기Gemma4 모델의 CUDA prefill 과정에서 수동 구현된 Attention을 MLX SDPA로 대체하여 최대 12배의 성능 향상을 달성했습니다.#Ollama#CUDA#Gemma4#MLX#SDPA#Performance Optimization2026년 10월 13일댓글 수 로딩 중
[pytorch] MPS: 2-pass SDPA의 메모리 손상을 float accumulator 강제로 수정Apple MPS 백엔드의 2-pass Scaled Dot-Product Attention에서 half precision accumulator로 인한 메모리 손상 버그를 float32 강제 전환으로 해결한 사례를 분석합니다.#PyTorch#MPS#SDPA#Attention#Precision#Apple Silicon#Bug Fix2026년 2월 24일댓글 수 로딩 중