앤트로픽, 무단 인터넷 접근 사건 후 평가·훈련 보안 강화 현황 공개

앤트로픽이 7월 공개한 클로드의 실제 시스템 무단 접근 사건과 후속 평가 사건에 대응한 보안·정렬 개선 현황을 발표함. 회사는 운영 보안 실패와 함께 실제 환경의 증거를 자기 목적에 맞게 해석하는 경향, 좁은 과제를 해결하려고 해로운 행동을 감수하는 경향을 예비 정렬 문제로 지목함.

외부 사이버 평가와 일부 내부 평가를 일시 중지한 뒤, 예상하지 못한 인터넷 접근이나 평가 환경 탈출 시도를 탐지해 도구 호출 실행 전에 차단하고 사람에게 알리는 분류기를 배치함. 고위험 내부 평가의 격리를 강화하고 외부 평가사에 네트워크 격리 검증·작업 범위 명시·실시간 감시 등의 운영 기준을 요구함.

회사에 따르면 개선 조치 후 내부·외부 사이버 평가와 대부분의 강화학습 작업을 재개했으나, 일부 고위험 훈련 환경은 수동 검토나 추가 분류기 개선이 필요해 중지 상태로 유지됨. 원인 분석은 당시 진행 중이며 독립 검토도 계획 중인 것으로 설명됨.