AI 생성 콘텐츠 출처 인증은 생성형 인공지능이 만든 이미지·영상·음성·텍스트의 생성 여부와 출처, 편집 이력을 확인할 수 있도록 하는 기술·표준·규제 체계를 가리킴. 콘텐츠 파일에 생성 주체와 편집 이력을 기록하는 C2PA·Content Credentials 같은 암호학적 메타데이터 방식과, 이미지 픽셀·음향 신호·언어모델의 토큰 선택 등에 사람이 인식하기 어려운 신호를 삽입하는 SynthID 등의 디지털 워터마킹 방식이 대표적임. 메타데이터가 삭제될 수 있고 워터마크도 변형에 영향을 받을 수 있어 여러 출처 신호를 결합하는 방향으로 발전함. 생성형 AI 확산으로 실제 콘텐츠와 합성 콘텐츠의 구별이 어려워지고 허위정보·사칭·선거 개입 등에 대한 우려가 커지면서 주요 AI 기업과 정부가 출처 인증 기술 개발을 추진. 미국에서는 2023년 백악관 주도의 AI 기업 자율 약속에 워터마킹과 출처 인증이 포함됐고, 유럽연합은 AI Act를 통해 AI가 생성한 텍스트·이미지·음성·영상에 기계 판독 가능한 표시를 적용하도록 법적 의무화함.