앤트로픽, 오픈 웨이트 AI 모델의 일괄 금지에 반대하고 고성능 모델 안전성 평가 촉구

엔트로픽 CEO 다리오 아모데이가 오픈 웨이트 AI 모델에 대한 회사의 공식 입장을 발표. 위험한 능력을 갖지 않은 오픈 웨이트 모델은 기업·개발자·연구자에게 가치를 제공하는 공공재이며, 엔트로픽은 오픈 웨이트 모델이라는 범주 자체의 금지를 주장한 적이 없다고 강조.

다만 모델 가중치가 공개되면 안전장치를 제거하거나 사용을 감시하고 모델을 회수하기 어려워져, 사이버 공격·생물학적 공격 등에 악용될 위험이 폐쇄형 모델보다 커질 수 있다고 지적. 미국 기업의 중국산 오픈 웨이트 모델 사용을 금지하는 방식은 악의적 행위자를 막지 못하고 미국 AI 기업을 경쟁에서 보호하는 결과만 낳을 수 있다며 반대 입장 표명.

대안으로 권위주의 국가에 대한 고성능 AI 칩·반도체 제조 장비 수출 제한, 국가 차원의 산업적 대규모 모델 증류 규제, 일정 수준 이상의 역량을 갖춘 모든 공개형·폐쇄형 모델에 대한 출시 전 의무적 안전성 평가를 제안. 오픈 웨이트 모델의 위험성과 안전성은 사전 가정이 아니라 사이버·생물학·정렬 위험에 대한 실증적 시험을 통해 판단해야 한다는 입장.