중국 정부가 지난 1일 인공지능(AI)으로 만들거나 합성한 모든 콘텐츠에 텍스트·음성·이미지 등 이용자가 명확하게 인식 가능한 표시(이하 라벨)을 의무화하는 규제를 시행했다.

이번 규제는 국가인터넷정보판공실(国家互联网信息办公室)을 비롯한 4개 부처가 공동 발표한 '인공지능 생성 합성 콘텐츠 표시 방법(人工智能生成合成内容标识办法)'에 따른 것으로 ▲텍스트 ▲이미지 ▲오디오 ▲비디오 ▲가상 장면 등 AI로 만든 모든 콘텐츠가 적용 대상이다.
라벨은 크게 명시적 표시와 묵시적 표시로 구분돼 적용해야 한다. 명시적 표시는 사용자가 눈으로 확인 가능한 문구, 기호, 음성 신호 등이다. 묵시적 표시는 메타데이터에 서비스 제공자 코드와 콘텐츠 번호를 삽입하거나 디지털 워터마크를 넣는 방식이다.

매체별 세부 규칙도 마련됐다. 텍스트는 시작·중간·끝에 문구나 기호를 넣고, 오디오는 음성 신호로, 이미지는 눈에 띄는 위치에, 비디오는 시작과 재생 화면에 표시하도록 했다. 가상 장면은 시작 화면과 서비스 중 적절한 위치에 표시가 필요하며, 다운로드나 복사, 내보내기 시에도 라벨을 제거하면 안된다.

서비스 제공자와 플랫폼의 의무도 강화됐다. 사업자는 생성된 파일의 메타데이터(데이터를 설명하는 정보)에 반드시 묵시적 표시를 추가해야 하며, 표시 관리 정책을 약관에 명시하고 이용자가 인지할 수 있도록 고지해야 한다. 또한, 명시적 표시가 없는 콘텐츠를 이용자가 올릴 경우 책임과 의무를 약관으로 안내하고, 관련 로그를 최소 6개월 이상 보관해야 한다.
온라인 콘텐츠 전송 서비스는 게시물 전송 과정에서 메타데이터와 이용자 고지 여부를 확인해 표시를 부착해야 한다. 합성 흔적이 있지만 표시가 없는 경우에는 '생성·합성 콘텐츠 의심' 경고를 붙여야 한다. 앱스토어 역시 인공지능 생성 기능을 제공하는 애플리케이션을 심사할 때, 표시 의무 이행 여부를 검증해야 한다.

이용자에게도 자율적 표시 의무가 부과된다. 콘텐츠를 생성·게시할 때 스스로 밝히고 표시 기능을 사용해야 하며, 이를 삭제·변조하거나 은폐하는 행위, 표시 회피 도구를 제공하는 행위는 모두 금지된다. 위반 시 권익 침해로 간주돼 처벌 대상이 될 수 있다.

중국 정부가 AI 생성 콘텐츠에 대한 표시 의무를 선제적으로 적용해 본격적인 콘텐츠 관리 체계를 시행함으로써 어떤 효과를 거둘지 주목된다.

서삼광 기자 (seosk@dailygame.co.kr)