[논문리뷰] Identically Trained Language Models Break on Different Jailbreaks이 논문은 하나의 checkpoint에서 측정한 jailbreak 취약성이 그 모델의 data와 safety training의 속성인지, 아니면 특정 pretraining run의 우연적 산물인지를 묻는다.#Review#Jailbreak Robustness#Pretraining Seed Variance#Safety Post-training#Refusal Behavior#Spearman Correction#Model Fingerprinting#DataDecide#Red-teaming Evaluation2026년 11월 5일댓글 수 로딩 중
[논문리뷰] COMPASS: A Framework for Evaluating Organization-Specific Policy Alignment in LLMs본 논문은 범용적인 유해성 평가를 넘어, LLM이 기업 및 조직 특유의 허용 목록(allowlist) 및 거부 목록(denylist) 정책 을 얼마나 잘 준수하는지 체계적으로 평가하기 위한 COMPASS 프레임워크를 제안합니다.#Review#LLM Evaluation#Policy Alignment#Organizational Policies#AI Safety#Adversarial Robustness#Refusal Behavior#Prompt Engineering#Fine-tuning2026년 1월 5일댓글 수 로딩 중