과학기술정보통신부(이하 과기정통부)가 2026년 1월 시행을 앞둔 '인공지능 기본법(이하 AI기본법)'의 시행령 초안에 'AI로 생성한 영상(이하 AI 영상)' 표시를 의무화한 내용을 포함해 눈길을 끈다.
이번 초안에는 '고영향 생성형 AI'가 만든 영상 및 이미지에 워터마크 또는 고지를 통해 AI 생성물임을 명시하도록 하는 의무 조항이 담겼다. 정부는 이를 통해 딥페이크 등으로 인한 사회적 혼란을 줄이고 인공지능 활용의 투명성을 확보하겠다는 방침이다. '고영향 생성형 AI'는 생명·신체·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 뜻한다.
'AI기본법' 시행령 초안은 총 34개 조항으로 구성됐다. 과기정통부는 규제보다는 육성에 초점을 맞춰 초안을 마련했다고 설명했다. 구체적으로는 국가AI위원회를 국가AI전략위원회로 개편해 부처 간 정책 조정 기능을 강화한다. 또한 최고AI책임자(CAIO) 제도와 협의회 설치 근거를 마련해 거버넌스를 정비하고, R&D·데이터 구축·인력 양성 등 산업 육성 지원을 제도화했다.
핵심은 안전성과 신뢰성 확보다. 시행령은 고영향 AI의 판단 기준과 사업자의 책무를 명시하고, 위험관리·이용자 보호·인간 감독 등 의무 조항을 규정했다. 다만 국방과 안보 등 특수한 목적에 따라 쓰이는 AI는 시행령 적용 대상에서 제외된다.
(출처=과학기술정보통신부 'AI기본법 하위법령 제정방향' 문서).
이와 함께 AI 생성물에는 워터마크 또는 고지를 부착해 일반 이용자가 쉽게 식별할 수 있도록 했다. 이는 최근 늘어난 가짜뉴스와 딥페이크 사기를 예방하기 위한 안전장치로 풀이된다. 사업자는 관련 내용을 홈페이지에 공개하고 필요시 AI 영향평가를 실시해야 한다.
위반에 대한 제재도 포함됐다. 투명성 확보 의무를 따르지 않거나 해외 사업자가 대리인을 지정하지 않는 경우, 시정명령 후에도 개선하지 않으면 최대 3000만 원의 과태료가 부과된다. 다만 정부는 AI기본법 도입 초기의 혼란을 감안해 일정 기간 계도기간을 운영하고 이후 단계적으로 제재를 강화할 계획이다.
정부는 9월 중 의견 수렴을 거쳐 10월 초 입법예고를 진행하고 연내 시행령을 확정한다는 방침이다. 이번 초안은 규제 불확실성을 최소화하면서도 AI 활용의 안전장치를 마련하려는 정부 기조를 반영한 것으로, 업계와 학계, 시민사회 전반의 논의가 본격화될 것으로 전망된다.
