[논문리뷰] Skaling: Chinchilla's Exponents Meet Kaplan's Coupling본 논문은 기존의 Additive Chinchilla law가 데이터 부족(data-scarce) 및 과잉 학습(overtraining) 극단 영역에서 Systematic prediction bias를 유발한다는 점을 지적한다.#Review#Neural Scaling Laws#Chinchilla#Kaplan#Loss Surface#Compute Allocation#Extrapolation#Sparse Profiling2026년 8월 9일댓글 수 로딩 중
[논문리뷰] Unified Neural Scaling Laws본 논문은 기존의 Neural Scaling Laws가 가진 예측 한계를 극복하고, 다차원적인 변수가 동시에 변화하는 복잡한 환경에서 모델 성능을 정확히 예측하는 문제를 해결합니다.#Review#Neural Scaling Laws#Multivariate Scaling#Functional Form#Extrapolation#Deep Learning#Model Performance#Hyperparameter Optimization2026년 6월 1일댓글 수 로딩 중
[논문리뷰] You Only Need Minimal RLVR Training: Extrapolating LLMs via Rank-1 Trajectories본 연구는 고비용의 RLVR 학습 과정에서 발생하는 막대한 컴퓨팅 자원 소비 문제를 해결하기 위해 고안되었습니다. 기존의 RLVR은 성능 향상을 위해 방대한 최적화 단계가 필수적이지만, 학습 궤적의 기하학적 구조에 대한 이해가 부족하여 효율적인 최적화가 어려웠습니다.#Review#RLVR#LLMs#Low-rank#Extrapolation#SVD#Training-free#Parameter Trajectories2026년 5월 20일댓글 수 로딩 중
[논문리뷰] DyPE: Dynamic Position Extrapolation for Ultra High Resolution Diffusion본 논문은 Diffusion Transformer (DiT) 모델을 재훈련 없이 초고해상도 이미지(예: 16M+ 픽셀 )를 생성할 수 있도록 하는 것을 목표로 합니다.#Review#Diffusion Models#Transformer Architecture#Positional Encoding#High-Resolution Image Generation#Extrapolation#Dynamic Adaptation#Training-Free2025년 10월 24일댓글 수 로딩 중