[논문리뷰] Steering Geometry: Validating Human Value Geometry in LLM Steering Space현재 대규모 언어 모델(LLM)의 행동 제어를 위한 Activation Steering은 효과적인 방법으로 부상했지만, Steering 벡터가 일관된 의미론적 구조(Semantic Structure)를 인코딩하는지, 아니면 단순히 행동별 단축키(Behavior-specific Shortcuts)를 이용하는지에 대한 명확한 이해가 부족합니다.#Review#LLM Steering#Activation Steering#Human Values#Value Geometry#Schwartz Theory#Moral Foundations Theory#Inference-time Control2026년 9월 8일댓글 수 로딩 중
[논문리뷰] Value Drifts: Tracing Value Alignment During LLM Post-Training본 연구는 LLM의 가치 정렬이 사후 훈련 과정에서 언제, 어떻게 발생하는지에 대한 기존 연구의 공백을 해결하고자 합니다. 특히, 모델이 인간의 가치를 학습하고 표현하는 훈련 역학을 간과하는 문제에 주목하여, 사후 훈련 단계에서 모델의 가치가 어떻게 진화하는지 추적하고 정량화하는 것을 목표로 합니다.#Review#LLM Alignment#Value Drift#Supervised Fine-Tuning (SFT)#Preference Optimization#RLHF#Llama-3#Qwen-3#Human Values2025년 11월 9일댓글 수 로딩 중
[논문리뷰] Every Question Has Its Own Value: Reinforcement Learning with Explicit Human Values본 논문은 Large Language Model (LLM)이 모든 정답을 동일하게 중요하게 취급하는 기존의 Verifiable Rewards (RLVR) 방식의 한계를 극복하고, 인간이 정의한 가치(value)에 따라 LLM의 최적화를 직접적으로 정렬하는 방법론을 제안합니다.#Review#Reinforcement Learning#LLM Alignment#Human Values#Reward Shaping#Value-Weighted Reward#Termination Policy#RLVR2025년 10월 24일댓글 수 로딩 중