[논문리뷰] Dion3: Full-Stack Orthogonal Updates본 논문은 최신 LLM 학습에서 탁월한 성능을 발휘하는 Muon 옵티마이저가 겪는 높은 계산 및 통신 비용 문제를 해결하기 위해 고안되었습니다.#Review#Muon Optimizer#Orthogonalization#Newton-Schulz#Gram Matrix#GPU Kernels#Distributed Training#Low-rank Approximation2026년 8월 16일댓글 수 로딩 중
[논문리뷰] Beyond Linear Bottlenecks: Spline-Based Knowledge Distillation for Culturally Diverse Art Style Classification본 논문은 전문가가 라벨링한 데이터의 부족과 복잡하고 비선형적인 스타일 요소의 상호작용으로 인해 어려움을 겪는 예술 스타일 분류의 문제를 해결하고자 합니다.#Review#Kolmogorov-Arnold Networks#Knowledge Distillation#Art Style Classification#Self-Supervised Learning#Spline-Based Activation#Dual-Teacher#Gram Matrix2025년 8월 2일댓글 수 로딩 중