[논문리뷰] Emergent Social Intelligence Risks in Generative Multi-Agent Systems대형 생성 모델 기반의 MAS 가 복잡한 업무를 자동화하며 실제 환경에 빠르게 도입되고 있으나, 에이전트 간의 상호작용에서 발생하는 Emergent multi-agent risks 에 대한 체계적인 연구는 부족합니다.#Review#Multi-Agent Systems#Generative Models#Social Intelligence#Emergent Risks#Incentive Exploitation#Collective Cognition#Adaptive Governance2026년 3월 30일댓글 수 로딩 중
[논문리뷰] Your Agent May Misevolve: Emergent Risks in Self-evolving LLM Agents본 논문은 자율적으로 진화하는 LLM 에이전트에서 발생하는 예기치 않거나 유해한 행동인 ' Misevolution ' 현상을 개념화하고 체계적으로 조사하는 것을 목표로 합니다. 에이전트의 자기 개선 과정이 기존 안전 연구에서 간과된 새로운 유형의 위험을 어떻게 초래하는지 밝히고자 합니다.#Review#Self-evolving Agents#LLM Safety#Misevolution#Emergent Risks#Model Evolution#Memory Evolution#Tool Evolution#Workflow Evolution2025년 10월 6일댓글 수 로딩 중