[논문리뷰] YOLO-PEFT: Parameter-Efficient Fine-Tuning on YOLO Family본 논문은 YOLO 시리즈와 같은 대규모 객체 탐지 모델을 새로운 타겟 도메인에 적용할 때 발생하는 높은 컴퓨팅 자원 및 저장 공간 요구 문제를 해결하고자 한다. 기존의 Full Fine-Tuning 방식은 모델 전체의 가중치를 수정해야 하므로, 배포 시 각 태스크마다 전체 모델을 저장해야 하는 비효율성이 존재한다.#Review#YOLO#Parameter-Efficient Fine-Tuning#PEFT#Transfer Learning#Object Detection#Model Adaptation2026년 8월 9일댓글 수 로딩 중
[논문리뷰] The Hidden Power of Scaling Factor in LoRA Optimization본 논문은 LoRA 학습 시 하이퍼파라미터인 scaling factor $\alpha$의 역할이 체계적으로 연구되지 않았으며, 단순히 learning rate($\eta$)의 보조적 수단으로만 간주되어 온 점을 지적합니다.#Review#LoRA#Scaling Factor#Optimization Dynamics#Signal-Drift Framework#Spectral Suppression#PEFT2026년 6월 14일댓글 수 로딩 중
[논문리뷰] How Far Can Chord-Symbol Time-Series Adaptation Carry Genre Identity? Capabilities and Boundaries in Multi-Genre Chord-Symbol Modeling본 논문은 chord-symbol 시계열 데이터가 실제 음악 장르의 정체성을 얼마나 담아낼 수 있는지, 그 표현력의 한계는 어디인지를 규명하는 것을 목적으로 한다.#Review#Chord-symbol modeling#Genre identity#PEFT#LoRA#Music Transformer#Representation boundary2026년 6월 7일댓글 수 로딩 중
[논문리뷰] On the Scaling of PEFT: Towards Million Personal Models of Trillion Parameters본 논문은 범용적인 기초 모델을 넘어 수백만 명의 개인별 요구사항을 지속적으로 반영할 수 있는 '개인화된 모델(Personal Models)'의 확장성 문제를 해결하고자 합니다.#Review#PEFT#LoRA#Personal Models#Reinforcement Learning#MoE#Infrastructure#Scaling Laws2026년 6월 1일댓글 수 로딩 중
[Axolotl] LoRA 커널에 bias, dropout, DoRA, embedding 지원 추가Axolotl의 Triton LoRA 커널을 확장하여 bias 파라미터, dropout, DoRA(Weight-Decomposed LoRA), embedding 레이어를 지원하도록 개선한 분석.#Axolotl#LoRA#DoRA#Triton#LLM Training#Performance#PEFT2026년 3월 22일댓글 수 로딩 중
[논문리뷰] TabTune: A Unified Library for Inference and Fine-Tuning Tabular Foundation Models본 연구는 테이블 형식 파운데이션 모델(Tabular Foundation Models, TFMs) 의 복잡한 전처리, 분산된 API, 비일관적인 미세 조정 절차 및 표준화되지 않은 평가(특히 보정 및 공정성 지표) 문제로 인해 실용적인 채택이 제한되는 것을 해결하는 것을 목표로 합니다.#Review#Tabular Foundation Models#Fine-Tuning#PEFT#Meta-Learning#Calibration#Fairness#Unified Library#Benchmarking2025년 11월 9일댓글 수 로딩 중