[논문리뷰] Efficient Reasoning Training Does Not Always Harm CoT Faithfulness and Monitorability본 논문은 효율적인 CoT 추론 학습이 모델의 투명성 및 감독 기능을 저해하는지 여부를 규명한다. 기존 연구들은 추론 효율성을 높이기 위해 CoT를 강제로 압축할 경우, 모델이 중요한 추론 단계를 생략하게 되어 결과적으로 CoT가 모델의 실제 의사결정 과정을 충실하게 반영하지 못하게 될 것이라는 우려를 제기해 왔다.#Review#Chain-of-Thought#Faithfulness#Monitorability#Efficient Reasoning#Reinforcement Learning#Sycophancy#Cognitive Bias2026년 10월 4일댓글 수 로딩 중
[논문리뷰] MonitorBench: A Comprehensive Benchmark for Chain-of-Thought Monitorability in Large Language ModelsLLM의 CoT는 모델의 해석 가능성과 안전한 모니터링을 위한 강력한 도구로 활용되지만, 최근 CoT와 최종 출력 간의 인과적 불일치(Unfaithful CoT) 문제가 지적되고 있습니다.#Review#Large Language Models#Chain-of-Thought#Monitorability#Benchmark#AI Safety#Stress-Test#Faithfulness2026년 3월 31일댓글 수 로딩 중
[논문리뷰] Reasoning Models Struggle to Control their Chains of Thought본 논문은 최신 추론 모델이 자신의 CoT (Chain-of-Thought)를 '의도적으로' 제어하여 모니터링을 회피할 수 있는 능력, 즉 CoT controllability 를 측정하고 분석하는 것을 목표로 합니다.#Review#Chain-of-Thought (CoT)#Model Controllability#AI Safety#Monitorability#Large Language Models (LLMs)#Reinforcement Learning (RL)#Evaluation Suite2026년 3월 8일댓글 수 로딩 중