앤트로픽, 클로드 페이블 5의 비공개 AI 개발 보호장치에 사과하고 변경 방침 발표

앤트로픽이 프런티어 언어 모델 개발 요청에 적용하던 페이블 5의 비공개 보호장치를 이용자에게 보이는 방식으로 바꾸겠다고 공식 개발자 계정을 통해 발표. 좁은 범위의 보호장치를 신속히 배포하려고 비가시적 방식을 택했으나 잘못된 절충이었다는 회사의 인정과 사과.

해당 주부터 탐지된 요청이 오퍼스 4.8로 전환된다는 사실을 매번 표시하고, API에서는 거절 이유를 반환하도록 바꾸겠다는 계획. 서버 측 대체 모델 전환도 며칠 안에 적용할 예정이라는 안내. 보호장치 공개 이후 우회 시도에 대응하는 과정에서 무해한 요청까지 차단하는 오탐이 늘 수 있다는 설명과 AI 개발·생물학·사이버보안 분류기의 정확도 개선 방침.

와이어드가 앞선 6월 10일 보도에서 전한 AI 연구계의 반발과 회사의 변경·사과 성명에 이어 나온 공식 발표. 모든 AI 개발 제한의 철회나 변경 배포의 완료가 아니라, 보호장치의 투명성 논란에 대한 정책 변경 발표.