[논문리뷰] OmniOpt: Taxonomy, Geometry, and Benchmarking of Modern Optimizers본 논문은 현대의 방대한 LLM 최적화 방법론들이 파편화되어 있어 체계적인 비교와 선택이 어렵다는 문제를 해결하고자 합니다. 기존 연구들은 각기 다른 가정과 notation을 사용하여 성능 비교가 프로토콜에 따라 크게 달라지며, 특정 메커니즘이 업데이트 파이프라인의 어느 지점에 개입하는지 명확하지 않습니다.#Review#LLM Pretraining#Optimizer#Taxonomy#Meta-Pipeline#Benchmarking#Linear Minimization Oracle#LMO2026년 7월 6일댓글 수 로딩 중