앤트로픽·액센츄어, AI 모델 안전성 평가팀 구축에 5년간 최소 20억 달러 투자

앤트로픽과 액센츄어가 앤트로픽 내부 팀과 함께 일하는 외부 평가자 조직을 구축해 AI 모델의 안전성과 통제 가능성을 점검하기로 함. 평가팀은 모델의 취약점을 찾는 레드팀 테스트, 정렬 평가와 안전장치 검증 등을 수행하며, 두 회사는 향후 5년 동안 각각 최소 10억 달러씩 총 20억 달러 이상을 AI 안전 역량에 투자할 계획임. 외부 인력이 개발사 내부에서 함께 일하는 ‘embedded evaluator’ 방식으로, 규제기관에 의한 독립 감독과는 구분됨.