[디지털투데이 손슬기 기자] 국회에서 인공지능(AI) 워터마크 규제를 강화하는 법안이 잇따라 발의되고 있다.

국회 교육위원회 소속 김대식 국민의힘 의원은 최근 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법) 개정안'을 발의했다. 현행 AI기본법이 AI사업자에게 부과한 워터마크 표시 의무를, 이용자가 명확하게 식별할 수 있는 코드나 문자·부호 등을 결과물 자체에 삽입하는 방식으로 구체화했다. 이를 훼손·위변조시 최대 2000만원 이하 벌금을 부과하는 등 형사처벌 조항을 담았다.

과학기술정보방송통신위원회 소속 조인철 더불어민주당 의원은 올해 초 '정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법) 개정안'을 발의했다. AI 생성물 유통 시 워터마크를 훼손하거나 위·변조하는 행위를 금지한 것이 핵심이다. AI 기술 사업자뿐만 아니라 일정 규모 이상 플랫폼 사업자도 워터마크 지원과 훼손·위조·변조를 방지하기 위한 기술적 조치를 해야 한다. 위반 시 과태료는 1000만원 이하다.

이 같은 국회 움직임은 현행 규제 한계에서 비롯됐다. AI기본법은 AI사업자에게 워터마크 표시 의무를 부과했지만 유통 단계 규율은 별도 가이드라인으로 보완하고 있다.

과학기술정보통신부는 올해 1월 22일 AI기본법 시행과 함께 'AI 투명성 확보 가이드라인'을 공개했다. 딥페이크 결과물은 인식 가능한 가시적 워터마크만을 허용하고, 동영상 딥페이크의 경우 AI로 작업한 재생구간 전체에 로고를 표출하는 등 구체적인 방법을 제시했다. 다만 이는 행정지도 성격으로 법적 구속력이 없다. AI사업자의 표시 의무 위반에는 과태료가 부과될 수 있지만, 유통 과정에서 워터마크를 훼손하거나 위변조해도 처벌 근거가 없다.

유통 규제 공백은 이용자 측면에서도 드러난다. '워터마크 제거법' 등 콘텐츠가 소셜미디어와 유튜브 등을 통해 확산 중이다. 윈도나 맥 운영체제 기본 도구로 표식을 지우는 방법이 공유돼 손쉽게 워터마크를 제거할 수 있어 악용이 우려된다.

딥페이크처럼 범죄에 악용될 수 있는 AI 생성물에 대한 기준 강화 목소리도 커진다. 경찰청 국가수사본부에 따르면 2024년 11월부터 2025년 10월까지 딥페이크 성범죄는 1827건 발생해 1438명이 검거됐다. 이는 2023년 11월~2024년 10월 대비 적발 건수 50.1%, 검거 인원 47.8% 증가한 수치다. 또 지난해 국정감사에서 조인철 의원실이 방송미디어통신심의위원회로부터 제출받은 자료에 따르면 딥페이크 성범죄영상물 심의 건수는 2021년 1913건에서 2024년 2만3107건으로 폭증했다.

해외 주요국들은 AI 생성물에 대한 워터마크 부착 의무를 확대하는 추세다. 미국 캘리포니아주는 AI 생성물 표시 영구성·비가역성 확보를 요구하고, 일반 이용자도 AI 생성 여부를 확인할 수 있도록 무료 탐지 도구 제공을 의무화했다. 중국은 생성 단계와 유통 과정을 모두 관리 대상으로 삼고 플랫폼 사업자에도 관리 책임을 부과한다. 유럽연합도 가시적·비가시적 표시를 함께 적용하는 '강건한(Robust) 워터마크' 방식을 기준으로 삼는다.

전문가들은 플랫폼 규제와 이용자 책임 두 측면에서 워터마크 입법 공백을 지적한다. 이성엽 고려대 기술경영전문대학원 교수는 "현행법은 AI개발·이용사업자에만 워터마크 의무를 부과해 유튜브 같은 플랫폼은 규제 대상에서 빠진다"며 배포자 개념 도입을 해법으로 제시했다. 이어 "일반 이용자가 딥페이크 워터마크를 삭제·훼손해도 제재할 근거가 없다는 점도 과제"라며 "방미통위 이용자 보호 조항에 AI생성물 규제를 포함시키는 등 별도 입법 검토가 필요하다"고 덧붙였다.

• 구글 검색, 25년 만에 최대 규모 개편…링크 대신 AI가 답하고 실행
• 토크, 지트 인수...조직 컨텍스트 중심 보안 운영 플랫폼 확장
• 오픈AI 공동 창업자 안드레이 카파시, 앤트로픽 합류...클로드로 사전 학습 고도화
• 비트코인 하락세에도 낙관론 굳건…3가지 강세 신호 주목
• 구글, 제미나이 앱 개편…'데일리 브리프'·영상 생성 추가