오픈AI 커서 공급 중단, 앤트로픽 정렬 자동화, 미국 AI칩 원격접속 규제 — 8/30 오전 AI 브리핑

8월 30일 오전 브리핑입니다. 밤사이 앤트로픽 소식이 유독 몰렸습니다. ■ 오픈AI, 커서에 모델 공급을 끊습니다 오픈AI가 28일(현지시간) 스페이스X에 커서(Cursor)용 모델 공급 계약 종료를 통보했습니다. 제안된 종료일은 11월 12일, 사유는 약관 준수를 확신할 수 없다는 것입니다. 커서는 지난 14일 스페이스X가 인수했습니다. 실체는 통지 기간입니다. 오픈AI는 계약상 허용되는 가장 긴 사전 통지를 적용했다고 밝혔습니다. 그 사이 커서가 어떤 모델로 갈아타는지가 이 결정의 실제 무게를 정합니다. 오픈AI, “약관 준수 확신할 수 없다”...스페이스X가 인수한 '커서(Cursor)'와 계약 해지 ■ 앤트로픽, 정렬 작업을 AI에 맡겼습니다 앤트로픽이 28일(현지시간) '자동화된 연구자는 정렬 오류를 안정적으로 완화할 수 있다'라는 논문을 공개했습니다. 클로드 오퍼스 4.8 기반 에이전트가 인간 연구자 대신 모델의 정렬 실패를 수정했고, 성능 저하 없이 안전성 격차를 크게 줄였다는 내용입니다. 범용 자율 AI는 아닙니다. 논문이 붙인 조건은 '명확한 평가 기준이 존재하는 영역'입니다. 안전 연구의 병목이 사람이었다면 그 자리를 모델로 대체해보겠다는 시도입니다. 앤트로픽 "AI가 인간 대신 정렬 작업 수행…안전성 크게 높였다" ■ 같은 주, 클로드는 테스트 중 700GB를 지웠습니다 개발자 세바스티앙 기예모는 27일(현지시간) X에서, 삭제 기능의 안전성을 시험하던 클로드가 홈 디렉터리의 700기가바이트(GB)를 통째로 지웠다고 밝혔습니다. 안전을 위해 자동 개입하는 분류기가 오히려 사고를 키웠다는 설명입니다. 위 논문과 나란히 놓으면 그림이 하나입니다. 정렬은 자동화 대상이 되어가는데, 실행 단계의 사고는 여전히 사람이 사후에 발견합니다. 앤트로픽이 27일 공개한 '모델 하드웨어 표준(MHS)' 프리뷰는 에이전트에게 연구실·제조 장비 제어를 열어주는 규격입니다. 클로드 테스트 중 700GB 홈 디렉터리 삭제..."안전 분류기가 사고 키워" “AI가 이제 현실 세계를 움직인다”…앤트로픽, '모델 하드웨어 표준(MHS)’ 프리뷰 공개 ■ 미국, 제3국 데이터센터 우회 접속까지 막습니다 디 인포메이션은 28일(현지시간) 미 상무부 산업안보국(BIS)이 태국·싱가포르 등 제3국 데이터센터로 첨단 반도체를 원격 사용하는 중국 AI 기업을 겨냥한 새 규정을 마련 중이라고 보도했습니다. 통제의 초점이 칩의 이동에서 사용으로 옮겨갑니다. 미국, 중국의 AI 칩 '우회 원격 접속' 차단 추진…수출 통제 허점 막는다 ■ 관전 포인트: 앤트로픽이 돈을 쓰는 단위 블룸버그 보도 기준 앤트로픽은 영국 엔스케일(Nscale)과 6년간 450억달러(약 62조원) 규모 컴퓨팅 임대 계약을 맺었습니다. 엔비디아 차세대 '베라 루빈' 기반 460메가와트(MW)를 받는 조건이고, 칩 스타트업들과 수급 다변화도 협상 중입니다. 걸리는 것은 금액이 아니라 단위입니다. 계약이 GPU 대수가 아니라 전력으로 표기됐습니다. a16z가 28일 11억달러(약 1조5000억원) 규모 하드웨어 인프라 펀드 '머신 에이지 펀드'를 출범시킨 것도 같은 자리에 있습니다 — 병목이 모델에서 전력과 부품으로 내려왔다는 판단입니다. 다음 발표에서 늘어나는 항목이 칩 물량인지 전력 계약인지 보면 갈립니다. 앤트로픽, 엔스케일 계약 이어 칩 스타트업 협상…컴퓨팅 용량 확보 '총력전' a16z, AI 하드웨어 공급망 병목 해결 위해 1.5조 규모 '머신 에이지' 펀드 출범 인수 주체가 바뀌면 모델 공급을 끊을 수 있다는 선례, 개발 도구 쓰는 입장에서 어떻게 보세요?