[논문리뷰] Trustworthy Recursive Self-Improvement in the Era of Large Models: Foundation, Risks, Evaluation and Open Challenges본 연구는 대규모 모델 기반의 RSI가 시스템 효율성을 극대화할 수 있음에도 불구하고, 이 과정에서 발생하는 심각한 신뢰성 결여 문제를 체계적으로 진단하기 위해 수행되었습니다.#Review#Recursive Self-Improvement#Large Models#Trustworthiness#Alignment#System Security#Model Evaluation2026년 10월 26일댓글 수 로딩 중
[논문리뷰] Reward Hacking in the Era of Large Models: Mechanisms, Emergent Misalignment, Challenges본 논문은 현대의 RLHF, RLAIF, RLVR 등 정렬 파이프라인이 내재적으로 가지고 있는 구조적 취약점인 reward hacking 문제를 다룬다.#Review#Reward Hacking#Alignment#RLHF#Proxy Compression Hypothesis#Emergent Misalignment#Large Models#Scalable Oversight2026년 4월 22일댓글 수 로딩 중