오픈AI, AI 행동 원칙 전면 개편…지시 따르는 AI 넘어 인간 의도 이해하는 AI로

오픈AI(OpenAI)가 인공지능(AI) 모델의 행동 기준을 규정하는 '모델 스펙(Model Spec)'을 전면 개편했다. AI가 사용자의 지시를 문자 그대로 수행하는 수준을 넘어 인간의 의도와 가치, 대화 맥락을 이해하고 예상하지 못한 상황에서도 적절하게 판단하도록 행동 원칙을 재정립한 것이다.특히 AI가 외부 시스템을 조작하고 복잡한 업무를 수행하는 에이전틱 AI(Agentic AI) 환경으로 발전하면서, 지시 이행 능력뿐 아니라 행동의 결과와 부작용을 고려하고 인간의 감독과 통제를 존중하는 능력이 중요해졌다는 판단이 반영됐다.

인공지능신문 · 2026. 10. 31. 오전 04:25