본문 바로가기

회사 측의 안전 목표 우선순위가 낮아지자 AI 안전 연구원들 중 절반가량이 이탈함. 2024년 말 기준으로 OpenAI의 안전팀에는 80여 명의 인원이 있음.

2024-05-14

  • 얀 라이케(Jan Leike): 슈퍼얼라인먼트 팀 리더. 오픈AI가 안전 문화보다 제품 출시를 우선시하는 것에 대해 문제를 제기, 경영진과의 핵심 우선순위 차이로 인해 퇴사. 앤트로픽에 합류.
  • 일리야 수츠케버: 샘 알트만 축출 시도 후 복귀했다가 결국 회사 안전 및 방향성에 대한 견해 차이로 퇴사. 안전한 AI 개발을 목표로 하는 SSI(Safe Superintelligence Inc.) 설립.

2024-11-15

  • 릴리안 웽(Lilian Weng): 연구 및 안전 부문 부사장. 새로운 도전을 한다며 퇴사 발표.

구글 딥마인드가 SynthID를 이미지·오디오에서 텍스트와 영상으로 확장하고, 제미나이 앱·웹에서 생성되는 텍스트와 VideoFX의 Veo 생성 영상에 적용함.

SynthID-Text는 언어 모델이 다음 토큰을 선택하는 확률 분포를 미세하게 조정해 사람이 읽을 때 드러나지 않는 통계적 패턴을 만드는 방식임. 영상에는 생성된 모든 프레임의 픽셀에 워터마크를 삽입함.

텍스트 일부 삭제·단어 변경·가벼운 재서술에는 비교적 견고하지만, 전체 재작성이나 다른 언어로의 번역에서는 검출 신뢰도가 크게 낮아질 수 있다는 한계도 함께 공개됨.

마쓰모토 다케아키 총무상이 자본관계 재검토 요구를 둘러싼 한국 측의 경영권 탈취 우려를 부인하고 이용자 개인정보를 보호할 체계 확보가 목적이라는 입장 재확인. 총무성은 위탁업체인 네이버의 자본 영향력이 라인야후의 충분한 관리·감독을 어렵게 하는 원인이라고 설명하며 자본관계까지 검토 대상으로 제시. 행정지도 목적을 둘러싼 비판에 대한 일본 정부의 공식 반박.