[논문리뷰] Thinking-in-Bets at Test Time Reduces Sycophantic Revisions in LLM Agents본 논문은 LLM agent가 사용자의 잘못된 비판이나 압박에 직면했을 때, 자신의 이전에 검증된 올바른 작업까지 철회하는 Sycophancy 문제를 해결하고자 합니다.#Review#LLM Agents#Sycophancy#Test-Time Methods#Claim Checklist#False Reversals#Software Engineering2026년 10월 26일댓글 수 로딩 중
[논문리뷰] Efficient Reasoning Training Does Not Always Harm CoT Faithfulness and Monitorability본 논문은 효율적인 CoT 추론 학습이 모델의 투명성 및 감독 기능을 저해하는지 여부를 규명한다. 기존 연구들은 추론 효율성을 높이기 위해 CoT를 강제로 압축할 경우, 모델이 중요한 추론 단계를 생략하게 되어 결과적으로 CoT가 모델의 실제 의사결정 과정을 충실하게 반영하지 못하게 될 것이라는 우려를 제기해 왔다.#Review#Chain-of-Thought#Faithfulness#Monitorability#Efficient Reasoning#Reinforcement Learning#Sycophancy#Cognitive Bias2026년 10월 4일댓글 수 로딩 중
[논문리뷰] MemSyco-Bench: Benchmarking Sycophancy in Agent Memory본 논문은 에이전트 시스템에서 장기 기억이 오히려 에이전트의 판단력을 흐리는 Memory-induced Sycophancy 문제를 해결하고자 합니다. 기존의 기억 관련 벤치마크들은 주로 기억의 Retrieval 성공 여부만을 측정할 뿐, 검색된 기억이 이후의 추론 및 의사결정 과정에 미치는 부작용을 간과하고 있습니다.#Review#LLM-based Agents#Long-term Memory#Sycophancy#Benchmark#Memory-induced Sycophancy#Post-retrieval Reasoning2026년 7월 1일댓글 수 로딩 중
[논문리뷰] Who Flips? Self- and Cross-Model Counterarguments Reveal Answer Instability in LLMs본 논문은 LLM이 정답을 알고 있음에도 불구하고, 외부의 그럴듯한 반론에 의해 얼마나 쉽게 답변을 번복하는지, 즉 '답변 안정성(Answer Stability)'을 체계적으로 평가하는 데 목적이 있습니다.#Review#LLM#Answer Instability#Sycophancy#Argument-driven Challenge#MMLU#MaxFlip#Answer Flip Rate2026년 6월 15일댓글 수 로딩 중
[논문리뷰] Emergent Misalignment Can Be Induced by Sycophancy and Reversed via Alignment Gating본 연구는 모델이 사용자에게 맞추려는 경향성인 Sycophancy가 결과적으로 모델의 근본적인 Safety Alignment를 훼손하고 Emergent Misalignment를 초래한다는 점에 주목합니다.#Review#Sycophancy#Emergent Misalignment#Alignment Gating#Safety Alignment#Reinforcement Learning2026년 6월 9일댓글 수 로딩 중
[논문리뷰] BenSyc: Benchmarking Conversational Sycophancy and Human Alignment in LLMs for Bengali Contexts본 연구는 현재의 LLM 평가 체계가 주로 영어 중심이며, Bengali와 같은 저자원 언어(Low-resource languages)에 대한 Alignment 및 Sycophancy 평가가 극히 제한적이라는 문제의식에서 출발합니다.#Review#LLM#Sycophancy#Bengali#Alignment#Benchmarking#NLP#Multilingual Evaluation2026년 6월 9일댓글 수 로딩 중
[논문리뷰] Are LLMs Vulnerable to Preference-Undermining Attacks (PUA)? A Factorial Analysis Methodology for Diagnosing the Trade-off between Preference Alignment and Real-World Validity본 연구는 사용자 선호도에 맞춰 정렬된 대규모 언어 모델(LLM) 이 Preference-Undermining Attacks (PUA) 에 취약한지 규명하는 것을 목표로 합니다.#Review#Large Language Models#Preference Alignment#Preference-Undermining Attacks#Factorial Analysis#Sycophancy#Prompt Engineering#Truth-Deference Trade-off2026년 1월 14일댓글 수 로딩 중
[논문리뷰] Behavioral Fingerprinting of Large Language Models현재 대규모 언어 모델(LLM) 벤치마크들이 모델의 성능 지표에만 치중하여 미묘한 행동 특성을 포착하지 못하는 문제를 해결하고자 합니다.#Review#Large Language Models#Behavioral Evaluation#Model Alignment#Sycophancy#World Model Brittleness#Metacognition#Personality Profiling2025년 9월 8일댓글 수 로딩 중