[디지털투데이 AI리포터] 인공지능(AI) 딥페이크 기술의 급격한 진화로 디지털 정보의 신뢰 기반이 무너지는 가운데, 인간의 판단력 한계를 보완할 투명한 탐지 기술의 도입과 선제적인 입법 조치가 시급하다는 지적이 나왔다.

18일(현지시간) IT매체 테크레이더에 따르면, 최근 생성형 AI가 만들어내는 가짜 비디오와 오디오 및 이미지는 과거와 차원이 다른 수준으로 고도화되어 사회적 신뢰 계약을 심각하게 잠식하고 있다. 

대중이 위험을 인지하기도 전에 기술이 일상의 맥락을 파괴하고 있으며, 인간이나 기술적 탐지 역량 모두 그 발전 속도를 따라잡지 못하는 실정이다. 특히 정교하게 조작된 허위 콘텐츠는 원본의 시각적 노이즈나 맥락적 공백을 지워버려 오히려 실제 사실보다 더 설득력 있게 다가오는 왜곡 현상을 발생시킨다.

실제 피해 사례도 구체화되고 있다. 지난 2024년 홍콩의 한 금융회사 직원은 최고재무책임자(CFO)와 동료들의 얼굴을 모방한 화상 회의 딥페이크에 속아 2500만달러를 사기범들에게 송금하는 사건이 발생했다. 

대다수 일반인은 미디어 포렌식 전문가가 아니기에 일상적인 피드에서 조작 여부를 가려내기 어렵고, 이는 결국 사회적 소통과 거래의 기초를 흔드는 인지부조화 비용으로 이어지고 있다. 정부 역시 혼란을 우려해 공식적인 위기 언급을 자제한 채 정책실 내에서만 대응책을 논의하는 형편이다.

조작 미디어가 일상화된 생태계에서 딥페이크 탐지 소프트웨어는 대규모 조직의 필수 방어선으로 자리 잡았다. 다만 탐지 도구는 인간의 판단을 완전히 대체하는 것이 아니라 신뢰 가능한 판단의 근거를 제공하는 지원책으로 기능해야 한다. 단순히 수치화된 점수만 제시하기보다 결과의 도출 배경을 투명하게 설명하는 기술이어야 무조건적인 불신 대신 건강한 회의론을 기르고 사용자들의 자체적인 패턴 인지 능력을 향상할 수 있다.

궁극적으로는 디지털 리터러시의 정의를 일상적인 진위 검증 습관으로 업데이트하고 플랫폼과 개인 모두가 책임을 분담해야 한다. 아울러 AI 도구 유포 기업을 제재하고 인간의 가치를 우선하는 선제적인 법률 제정이 동반되어야 신뢰 위기를 극복할 수 있을 것으로 전망된다.

• 오픈AI·앤트로픽 찍은 투자자의 다음 선언…"이젠 스크린 밖이다"
• 인텔 코어 i9-14900KF, 9.2GHz 벽 넘었다…CPU 클럭 세계 신기록
• Sh수협은행, 아모레몰 손잡고 '뷰티 적금' 출시…최고 연 4.3% 혜택
• 애플워치 새로운 고혈압 알림 기능 나온다…FDA 심사 중
• 이성남 대표이사, 아이티아이즈 주식 2만965주 매수