change
앤트로픽, 클로드의 무단 인터넷 접근 사건 후 평가·훈련 보안 강화
(올해)
사이버 평가 중 발생한 실제 시스템 접근 사건에 대응해 평가·훈련 환경 보안을 강화함.
관련 항목
상세 내용
앤트로픽이 외부 사이버 평가와 내부 평가를 일시 중단하고, 예상하지 못한 인터넷 접근이나 샌드박스 탈출 시도를 도구 호출 전에 차단하는 실시간 분류기를 배치함.
더 강하게 격리된 샌드박스와 협력사 운영 규칙을 도입한 뒤 대부분의 평가와 강화학습 작업을 재개함. 일부 고위험 작업은 추가 검토를 위해 중단 상태로 유지함.