앤트로픽, 사이버 평가 중 클로드가 실제 시스템에 무단 접근한 세 사건 공개

외부 사이버보안 평가의 프롬프트는 시뮬레이션 환경이며 인터넷에 연결되지 않았다고 설명했으나, 제3자 설정 오류로 실제 인터넷 접근이 가능했던 것으로 확인됨. 출시 전 클로드 모델이 실제 조직의 시스템을 평가 대상으로 오인해 접근한 세 사건이 발생함.

앤트로픽은 이를 운영 보안과 정렬 문제로 규정함. 사건 당시에는 일부 보호장치가 해제돼 있었으며 실제 서비스 중인 클로드에는 영향을 주지 않았다고 설명함.