[논문리뷰] How I Aligned Your Model: Scaling Up Multilingual Safety Training with Templates이 논문이 풀려는 문제는 safety alignment가 English 중심이어서 low-resource language와 문화 특화 harm에서는 모델이 쉽게 뚫린다는 점이다. 이를 위한 multilingual 학습 및 평가 데이터를 대규모로 자동 생성하는 것이 목표다.#Review#Multilingual Safety Alignment#Template-based Data Augmentation#Red-teaming#Over-refusal#Cultural Localization#LLM-as-a-Judge#DPO2026년 11월 4일댓글 수 로딩 중
[논문리뷰] Agents of Chaos이 논문은 영구 메모리, 이메일, Discord 접근 권한, 파일 시스템, 쉘 실행 능력을 갖춘 라이브 환경에 배포된 자율형 언어 모델 기반 에이전트 에 대한 탐색적 레드팀 연구를 보고합니다.#Review#AI Agents#Red-teaming#Agentic Systems#Multi-Agent Communication#Security Vulnerabilities#Prompt Injection#Social Engineering#Resource Management2026년 2월 23일댓글 수 로딩 중