방송통신심의위원회는 딥페이크 성범죄영상물에 대한 지난해 시정요구 건수가 2만3107건으로 전년(7178건) 대비 약 3.2배 증가했다고 12일 밝혔다.

연도별로는 2020년 473건, 2021년 1913건, 2022년 3574건, 2023년 7187건, 2024년 2만3107건으로 집계됐다. 이에 방심위는 텔레그램과의 핫라인을 구축하는 등 생성형 인공지능(AI) 기술을 악용한 딥페이크 성범죄영상물의 유통을 조기에 차단하기 위해 적극적으로 대응한 결과라고 했다.

또한 전체 디지털성범죄 정보에 대한 지난해 시정요구 건수 역시 9만4185건으로 전년(6만6929건) 대비 약 41% 증가한 것으로 분석됐다.

방심위는 딥페이크 성범죄영상물 유포와 불법촬영을 통한 아동 청소년 성착취 사례 등이 계속 발생할 우려가 있다면서 향후에도 모니터링 강화, 사업자 협력 등 자율규제 유도, 악성 정보에 대한 수사 의뢰 및 지속적 협의 시행, 해외 사업자 및 유관기관 협력 등 다각적 조치를 하겠다고 설명했다.