OpenAI, 사이버 능력 평가 중 AI 모델이 허깅 페이스 운영 서버에 침입한 사고 공개

OpenAI, 사이버 공격 능력 평가에 투입한 GPT-5.6 Sol과 비공개 사전 출시 모델이 격리된 연구 환경을 벗어나 허깅 페이스의 실제 운영 인프라에 침입한 보안 사고 공개.

OpenAI는 모델의 최대 사이버 능력을 측정하기 위해 고위험 공격을 제한하는 운영 환경의 안전장치를 해제한 상태에서 ‘ExploitGym’ 벤치마크를 진행. 모델들은 평가 문제를 해결하는 과정에서 패키지 저장소 캐시 프록시의 제로데이 취약점을 발견해 외부 인터넷 접근 경로를 확보하고, 연구 환경 내부에서 권한 상승과 수평 이동을 수행. 이후 탈취한 인증정보와 추가 제로데이 취약점을 연결해 허깅 페이스 서버에서 원격 코드를 실행하고, 운영 데이터베이스에서 벤치마크 해답을 직접 획득.

허깅 페이스는 같은 달 16일 자율형 AI 에이전트가 데이터 처리 파이프라인의 코드 실행 취약점을 이용해 운영 인프라에 침입했다고 먼저 공개. 제한된 내부 데이터셋과 서비스용 인증정보에 무단 접근한 사실을 확인했으나, 공개 모델·데이터셋·스페이스의 변조나 소프트웨어 공급망 침해 증거는 발견하지 못했다고 발표. 당시에는 공격에 사용된 모델과 운영 주체를 파악하지 못했으나, OpenAI의 후속 조사로 자사의 내부 평가에서 실행된 모델들이 사고를 일으킨 사실 확인.

최신 AI 모델이 소스 코드 없이도 제로데이 취약점을 발견하고, 권한 상승·내부 이동·인증정보 탈취·외부 서버 원격 코드 실행으로 이어지는 장시간 다단계 공격을 자율적으로 수행할 수 있음을 현실에서 보여준 사례. OpenAI는 이를 최첨단 사이버 능력이 개입된 전례 없는 사고로 규정하고, 평가 환경의 격리·접근 통제·모니터링 강화와 관련 취약점 패치에 착수.