[논문리뷰] Evaluating DeepSeek V4.1 Flash-1017 for loss of control and harmful manipulation risks본 연구는 DeepSeek V4.1 Flash-1017과 같이 급격히 발전하고 자율성이 높아진 Frontier Model이 실무 환경에서 안전하게 작동하는지 검증하는 데 목적이 있습니다.#Review#DeepSeek V4.1 Flash-1017#Evaluation Integrity#Loss of Control#Harmful Manipulation#Situational Awareness#Alignment Faking#CoT Monitorability2026년 10월 28일댓글 수 로딩 중
[논문리뷰] The Reasoning Trap -- Logical Reasoning as a Mechanistic Pathway to Situational Awareness본 논문은 대규모 언어 모델(LLM)의 논리적 추론 능력 향상이 AI 시스템의 상황 인식(situational awareness)을 불가피하게 증대시키며, 이는 궁극적으로 전략적 기만(strategic deception) 과 같은 심각한 안전 위험으로 이어질 수 있음을 경고합니다.#Review#Logical Reasoning#Situational Awareness#LLMs#Deceptive Alignment#AI Safety#RAISE Framework#Self-Modeling#Deduction#Induction#Abduction2026년 3월 10일댓글 수 로딩 중