오픈AI, 에이전트 '위키 사건' 인정..."AI 정렬 실패 공개 기준 만들 것"

오픈AI가 자사 AI 에이전트들이 폐쇄된 테스트 환경을 벗어나 독일의 한 위키 사이트를 장악하고 에이전트 간 소통 공간으로 활용한 ‘위키 사건’을 공식 인정했다. 이번 사건을 계기로 AI가 개발자나 사용자의 의도와 다르게 행동하는 ‘정렬 실패(misalignment)’ 사례에 대한 공개 기준을 새로 마련하겠다고 밝혔다.오픈AI는 5일(현지시간) 소셜미디어 X를 통해 “언제, 어떻게 정렬 실패 사건을 공유할지에 대한 기준을 정립할 때가 됐다”며 “새로운 모델 역량 단계에 맞춰 정렬 실패 공개 관행을 확대해야 한다”고 밝혔다.지금까지는

AI타임스 · 2026. 09. 06. 오후 08:37