AI 아동 성착취 이미지 급증… “범죄 악용 심각” 경고
||2026.03.24
인공지능(AI)으로 생성된 아동 성착취 이미지와 영상이 사상 최고 수준에 이른 것으로 나타났다. AI 기술의 범죄 악용 가능성에 대한 우려를 다시 한번 부각하는 결과라는 분석이다.
24일 파이낸셜타임스(FT) 보도에 따르면 영국의 인터넷 감시기관인 인터넷워치재단(IWF)은 지난 1년 새 온라인상에서 AI로 생성된 아동 성착취 영상이 급증했고 극단적인 내용도 함께 늘었다고 밝혔다. IWF에 따르면 지난해 AI로 만들어진 아동 성착취 영상은 약 3000건으로 전년 2024년 13건에 그쳤던 것과 비교해 약 260배 늘어났다.
FT는 이번 조사 결과에 대해 생성형 AI 기술의 발전으로 범죄자들이 별다른 전문 기술 없이도 더 사실적이고 폭력적인 불법물을 대량 생산할 수 있게 됐음을 보여준다고 짚었다.
각국 정부와 규제당국이 온라인 안전 관련 법을 손질하고, 대부분 규제 사각지대에 놓인 채 널리 쓰이고 있는 AI 기업들에 더 엄격한 의무를 부과해야 한다는 압박을 키우고 있다.
지난해 AI 생성 아동 성착취 영상(3000건) 중 65%는 영국 법상 가장 심각한 범주인 ‘카테고리 A’로 분류됐다. 이는 매우 중대한 성범죄 유형을 포함하는 등 가장 수위가 높은 불법물에 해당한다. 반면 비(非) AI 기반 범죄 영상 가운데 같은 범주에 해당한 비율은 43%였다. AI가 더 폭력적인 콘텐츠를 만드는 데 활용될 수 있음을 시사한다.
케리 스미스 IWF 최고경영자(CEO)는 “AI는 긍정적인 측면에서도 많은 가능성을 지니고 있지만, 그 힘이 아동의 삶을 파괴하는 데 쓰일 수 있다는 점은 끔찍한 일”이라며 “이런 자료는 매우 위험하다”고 말했다. 그러면서 AI 기업들이 제품 개발 단계에서부터 악용을 막을 수 있는 안전장치를 내장하는 ‘안전 중심 설계’ 접근법을 도입해야 한다고 강조했다.
지난 1월 일론 머스크 테슬라 CEO가 개발한 AI 챗봇 ‘그록(Grok)’이 성적 맥락이 부여된 아동 이미지를 생성했고, 이 이미지들이 소셜미디어 플랫폼 X를 통해 확산하면서 AI 생성 아동 성착취물 문제가 불거졌다. 이 논란은 유럽연합(EU), 영국, 프랑스의 정부와 규제당국이 벌금 부과와 서비스 금지까지 거론하는 계기가 됐다. 머스크는 “그록을 이용해 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 업로드한 경우와 동일한 결과를 겪게 될 것”이라고 밝혔다.
이처럼 그록을 통해 생성된 성적 이미지가 급증하자 영국 정부는 법적 허점을 신속히 메우기 위한 권한 확보에 나서겠다고 밝혔다. 이에 인스타그램, 틱톡 같은 소셜미디어 플랫폼과 함께 AI 챗봇도 영국 온라인 안전법의 규율 대상에 포함하는 방안을 추진하겠다는 입장이다.
IWF 분석가들은 다크웹에서 범죄자들이 실제 아동 영상을 은밀한 카메라 등으로 확보한 뒤, 이를 AI 생성 학대 영상으로 바꾸는 방안을 논의한 정황도 확인했다고 밝혔다. 이들은 또 서로 더 극단적인 AI 생성 시나리오를 만들기 위해 경쟁하는 모습도 보였다고 전했다.
보고서는 또 아동 성착취물 이용자들이 차세대 AI 기술에도 큰 관심을 보이고 있다고 지적했다. 예컨대 현재 기업 환경에서 코딩 등의 업무 수행에 활용되는 자율형 에이전트 같은 기술이 범죄 목적으로도 악용될 가능성을 우려하고 있다는 것이다.
IWF의 한 수석 분석가는 “다크웹의 불안한 대화들을 보면, 아동 성착취물 이용자들이 AI 혁신을 매우 반기고 있다는 점이 분명하게 드러난다”며 “이런 자료의 생성과 유포는 전통적인 형태의 아동 성착취와 마찬가지로 피해자와 생존자에게 깊은 영향을 미친다는 점을 우리는 알고 있다”고 말했다.
윤승준 기자
sjyoon@chosunbiz.com
1
3
4
5
