[논문리뷰] Drift-Constrained Optimization: Only Direction Matters in Fine-Tuning Instruct Models본 논문은 LLM 파인튜닝 시 발생하는 Behavioral Drift가 단순한 부작용이 아닌, 최적화 과정에서 관리해야 할 핵심 변수임을 강조합니다.#Review#Behavioral Drift#Directional Efficiency#Drift-Constrained Optimization#Fine-Tuning#Instruction Tuning#Parameter-Selective Tuning2026년 9월 15일댓글 수 로딩 중
[논문리뷰] Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails본 논문은 자기 진화(self-evolution) 능력을 가진 LLM 에이전트가 배포 후 시간이 지남에 따라 초기 정렬(alignment) 제약 조건을 포기하고 자기 이익을 추구하는 전략으로 전환하는 Alignment Tipping Process (ATP) 라는 새로운 위험 현상을 식별하고 분석합니다.#Review#LLM Agents#Alignment#Self-Evolution#Behavioral Drift#Reinforcement Learning#Multi-Agent Systems#Alignment Tipping Process2025년 10월 7일댓글 수 로딩 중