[논문리뷰] SafeDriveVLA: Navigation-Conditioned World Model Dreaming for Conflict-Aware End-to-End Autonomous Driving자율주행 분야에서 Vision-Language-Action (VLA) 모델은 LLM의 상식적인 지식(commonsense priors)을 활용하여 고정된 명령어 세트에서 벗어나 자유 형식의 자연어 지시를 따를 수 있게 되면서 주목받고 있습니다.#Review#Autonomous Driving#Vision-Language-Action Model#Safety#World Model#Navigation-Scene Conflict#Closed-Loop Evaluation2026년 10월 14일댓글 수 로딩 중
[논문리뷰] DecepEval: A Benchmark for Evaluating Deception in LLM Agents본 논문은 LLM 에이전트가 목표 달성을 위해 기만적인 행동을 선택할 위험이 증가함에 따라 이를 체계적으로 평가하고 이해해야 할 필요성을 제기합니다.#Review#LLM Agents#Deception#Benchmark#Safety#Trustworthy AI#Alignment#Fraud Theory2026년 10월 7일댓글 수 로딩 중
[논문리뷰] Removing the NEEDLE in the Haystack: Backdoor Removal in LLMs via Weight Orthogonalisation본 논문은 LLM에 삽입된 백도어를 제거하는 과정에서 모델의 안전성 관련 행동이 의도치 않게 저해되는 문제를 해결하고자 합니다. 기존의 백도어 제거 기법들은 백도어를 삭제하는 과정에서 모델의 출력 분포를 왜곡시켜, 전반적인 성능 저하나 안전성 메커니즘의 약화를 초래하는 한계가 있습니다.#Review#LLM#Backdoor Removal#Weight Orthogonalisation#Activation Steering#Refusal Subspace#Safety2026년 10월 1일댓글 수 로딩 중
[논문리뷰] IndicBankBench: Evaluating Safety and Reliability of Language Model Assistants in Indian Retail Banking본 연구는 retail-banking assistant의 안전성과 신뢰성 평가에 있어 기존 benchmark의 한계를 지적하며, 특히 인도 retail banking 환경에 특화된 포괄적인 평가 프레임워크인 IndicBankBench를 제안합니다.#Review#LLM Assistant#Retail Banking#Benchmarking#Safety#Reliability#Tool Use#Failure Diagnostics#Strict Pass2026년 9월 27일댓글 수 로딩 중
[논문리뷰] PUBG Ally: A Conversational Embodied Agent as an AI Teammate본 연구는 PUBG: BATTLEGROUNDS와 같은 real-time 게임 환경에서 변화하는 game world에 latency 제약 하에 반응하고 플레이어와 자연스럽게 voice interaction하는 AI teammate를 구축하는 핵심 문제를 해결하고자 한다.#Review#Conversational Embodied Agent#AI Teammate#Language Model Agent#Real-time Control#Player-centered Evaluation#On-device Deployment#Safety2026년 9월 24일댓글 수 로딩 중
[논문리뷰] SchemeArena: Factorized Stress Testing of Scheming in LLM Agents본 논문은 LLM 에이전트의 위험한 실패 모드인 Scheming이 어떤 조건에서 발생하는지 체계적으로 분석하고자 한다. 기존 연구들은 몇 가지 한정된 시나리오에 의존하여 scheming에 관여하는 개별 요인들의 독립적인 영향력을 입증하는 데 한계가 있었다 .#Review#LLM Agents#Scheming#Safety#Benchmark#Oversight#Instrumental Goals#Scalable Monitoring2026년 9월 9일댓글 수 로딩 중
[논문리뷰] RedVox: Safety and Fairness Gaps in Speech Models Across Languages본 논문은 최신 음성 인식 모델들의 안전성 및 공정성 평가가 지나치게 영어 중심적이며, 자연스러운 실사용 환경이 아닌 합성 데이터에 치중되어 있다는 한계점을 지적합니다.#Review#Speech Models#Safety#Fairness#Multilingual#Benchmark#Red Teaming#Multimodal2026년 6월 30일댓글 수 로딩 중
[논문리뷰] SAE Interventions are Unreliable: Post-Intervention Recovery of Suppressed Behavior본 논문은 SAE를 이용한 잠재 공간(latent-space) 방어 기법들이 행동을 완전히 통제하지 못할 수 있다는 한계점을 지적합니다.#Review#Sparse Autoencoders#Intervention#Post-Intervention Recovery#Constrained Optimization#Interpretability#Safety#Residual Stream2026년 6월 17일댓글 수 로딩 중
[논문리뷰] Implicit Intelligence -- Evaluating Agents on What Users Don't SayAI 에이전트가 사용자의 명시적 지시 를 따르는 것을 넘어, 암묵적인 기대치와 요구사항 을 추론하고 충족하는 능력을 평가하는 것을 목표로 합니다. 현실 세계의 요청은 본질적으로 불완전하게 명시되며, 기존 벤치마크들이 명시적인 지시 수행 에만 초점을 맞춰왔다는 한계를 극복하고자 합니다.#Review#Implicit Intelligence#AI Agents#Agent-as-a-World#Contextual Reasoning#Safety#Privacy#Accessibility#LLM Evaluation2026년 2월 24일댓글 수 로딩 중
[논문리뷰] Towards a Science of AI Agent ReliabilityAI 에이전트의 높은 벤치마크 정확도와 실제 배포 시의 잦은 실패 간의 격차를 해소하는 것이 이 연구의 주요 목표입니다.#Review#AI Agents#Reliability#Evaluation Metrics#Consistency#Robustness#Predictability#Safety#Benchmarks2026년 2월 18일댓글 수 로딩 중
[논문리뷰] Self-Improving Pretraining: using post-trained models to pretrain better models본 논문은 대규모 언어 모델(LLM)의 생성 안전성, 사실성 및 전반적인 품질 문제를 사전 훈련 단계에서부터 해결하는 것을 목표로 합니다.#Review#Self-Improving Pretraining#Reinforcement Learning (RL)#Large Language Models (LLMs)#Quality Control#Factuality#Safety#Post-trained Models#Pretraining Data Augmentation2026년 1월 29일댓글 수 로딩 중
[논문리뷰] The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models본 논문은 대규모 언어 모델(LLM)이 기본적으로 가지는 'AI Assistant' 페르소나의 구조를 심층적으로 탐구하고, 이 페르소나가 특정 상황에서 벗어나 부적절하거나 유해한 행동으로 이어지는 '페르소나 드리프트' 현상을 해결하는 것을 목표로 합니다.#Review#Language Models#Persona Control#Activation Steering#Persona Drift#Alignment#Post-training#Interpretability#Safety2026년 1월 19일댓글 수 로딩 중
[논문리뷰] Evaluating Gemini Robotics Policies in a Veo World Simulator이 논문은 현실감, 확장성, 안전성 측면에서 기존 물리 기반 시뮬레이터가 가진 한계를 극복하고, 제너럴리스트 로봇 정책 평가를 위한 새로운 방법론을 제시합니다.#Review#Robotics#Policy Evaluation#World Model#Video Generation#Out-of-Distribution (OOD)#Safety#Gemini Robotics#Veo Simulator2025년 12월 11일댓글 수 로딩 중
[논문리뷰] VeriGuard: Enhancing LLM Agent Safety via Verified Code Generation본 논문은 자율 AI 에이전트, 특히 LLM 기반 에이전트의 배포로 인해 발생하는 안전, 보안, 프라이버시 위험을 해결하고자 합니다.#Review#LLM Agents#Safety#Formal Verification#Code Generation#Runtime Monitoring#Security#Guardrails#Policy Enforcement2025년 10월 8일댓글 수 로딩 중
[논문리뷰] VoiceAssistant-Eval: Benchmarking AI Assistants across Listening, Speaking, and Viewing본 논문은 기존 벤치마크의 한계를 극복하고, 음성 우선 AI 비서의 청취, 말하기, 보기 능력 전반 을 평가할 수 있는 종합적인 벤치마크를 제시하는 것을 목표로 합니다.#Review#AI Assistants#Multimodal Benchmarking#Audio Understanding#Speech Synthesis#Vision-Language Models#Role-play#Safety#Robustness2025년 9월 29일댓글 수 로딩 중