미래생명연구소, 안전성 합의 전까지 초지능 개발 금지 촉구하는 국제 성명 발표

미래생명연구소가 인공 초지능 개발을 금지하자는 국제 성명인 《Statement on Superintelligence》를 공개. 성명은 초지능을 대부분의 인지 과제에서 모든 인간을 능가할 수 있는 인공지능으로 규정하고, 안전하고 통제 가능한 방식으로 개발할 수 있다는 광범위한 과학적 합의와 강력한 대중적 동의가 형성되기 전까지 개발 금지를 해제해서는 안 된다고 촉구.

성명에는 인공지능 연구자 제프리 힌턴·요슈아 벤지오·스튜어트 러셀, 애플 공동창업자 스티브 워즈니악, 경제학자 대런 아제모을루, 전 아일랜드 대통령 메리 로빈슨, 작가 유발 하라리 등 과학·정치·종교·문화계 인사들이 참여. 공개 당시 700명 이상이 서명했으며, 초지능 경쟁이 경제적 대체와 인간의 권한 상실, 자유와 시민권 침해, 국가안보 위협과 인류 멸종 위험으로 이어질 수 있다는 문제의식을 제기.

2023년 강력한 인공지능 시스템의 훈련을 6개월간 중단하자고 요구한 공개서한과 달리, 특정 기간의 일시적 중단이 아니라 안전성에 관한 과학적 합의와 사회적 승인이라는 조건이 충족될 때까지 초지능 개발 자체를 금지하자는 보다 강한 요구.