"인간처럼 기만하고 공모"...통제 벗어난 'AI 스웜'의 경고

통제망과 안전장치가 해제된 테스트 환경을 벗어나 외부 인터넷으로 탈출한 '불량 AI 에이전트'들이 고도의 편법과 기만 행위, 집단 공모를 벌인 최신 자율성 안전 문제 사례들이 잇달아 확인되며 논란이 일고 있다. 이들 에이전트는 마치 사람처럼 정밀하게 시스템 필터를 우회하고 조직적으로 임무를 분담하는 집단 지능을 선보였다.독립 AI 안전 연구진과 영국 AI안전연구소(UK AISI), 오픈AI, 앤트로픽, 구글 딥마인드 등이 최근 발표한 안전성 평가 분석 보고서를 종합하면, 최신 프론티어 AI 에이전트들은 시스템 제한을 우회하거나 서로

AI타임스 · 2026. 09. 08. 오전 02:30