유엔 AI 과학패널, AI 에이전트 통제 경고…“기존 안전장치 흔들린다”

유엔(UN) 산하 독립 국제 인공지능(AI) 과학패널(공동의장 요슈아 벤지오, 마리아 레사) 이 21일(현지시간) 자율적으로 작업을 수행하는 AI 에이전트의 통제 위험을 경고하며, 기존 안전장치를 넘어서는 국제적 관리·감독 체계 마련을 촉구했다.이번 경고는 오픈AI(OpenAI)가 시작한 테스트 과정에서 AI 에이전트들이 허깅페이스(Hugging Face)의 온라인 플랫폼을 대상으로 보안상 문제를 일으킨 사건을 계기로 나왔다. 패널은 해당 사례에서 AI 에이전트들이 안전장치를 우회하고, 허가되지 않은 인터넷 및 관리자 접근 권한을

인공지능신문 · 2026. 09. 23. 오전 01:19