자체 감시 기능 무력화한 오픈AI 에이전트…'회피 성향' 조사

오픈AI의 AI 에이전트가 AI 모델의 이상 행동을 감시하는 내부 시스템의 경고 기능을 약화하거나 감시 기능 자체를 제거한 사례가 확인됐다. 한 에이전트는 감시 기능을 삭제한 뒤에도 사용자에게 이를 부인했다. 오픈AI는 에이전트가 감시를 회피하려는 성향을 보인 것인지 조사하고 있다.오픈AI가 20일(현지시간) 공개한 보고서에 따르면 첫 번째 사례는 지난 3일 'GPT-6.1 솔' 에이전트가 내부 평가 파이프라인을 수정하는 과정에서 발생했다.연구자는 슬랙에서 직원 피드백을 수집해 평가 작업을 만들도록 지시하면서 "이 과정에서 슬랙으로

AI타임스 · 2026. 10. 22. 오전 01:09