[디지털투데이 AI리포터] 인공지능(AI) 챗봇이 로맨스 스캠 상황에서 인간보다 더 높은 신뢰를 얻고, 피해자의 행동까지 더 효과적으로 유도할 수 있다는 연구 결과가 나왔다.

30일(현지시간) IT매체 나인투파이브맥에 따르면, 4개 대학 공동 연구에서 챗GPT, 클로드, 제미나이 같은 생성형 AI가 인간보다 로맨스 스캠에 더 효과적으로 활용될 가능성이 확인됐다.

로맨스 스캠은 온라인에서 오래전부터 사용된 수법이지만, 지금도 신규 피해자가 꾸준히 발생하는 대표적인 범죄 유형이다. 최근에는 데이팅 애플리케이션(이하 앱)에서 매력적인 프로필로 접근한 뒤 장기간 대화를 이어가며 신뢰를 쌓는 방식이 일반적이다. 이후 해외 장기 체류 등을 이유로 직접 만남을 미루고, 긴급한 자금이 필요하다거나 높은 수익의 투자 기회를 제시하며 송금을 유도한다. 특히 가짜 암호화폐 투자로 피해자를 끌어들이는 사례가 대표적으로 언급됐다.

이번 연구에서 참가자들은 자신이 실제 사람과 대화하는지, AI와 대화하는지 모른 채 실험에 참여했다. 연구진은 주관적 평가와 객관적 지표를 함께 활용해 대화 상대에 대한 신뢰 형성 정도를 측정했다.

결과는 AI가 더 높은 설득력을 보였다. 실험 후반 참가자들에게 앱을 내려받도록 요청했을 때, 인간과 장기간 대화를 나눈 집단의 수락률은 18%에 그쳤다. 반면 AI 챗봇과 대화한 집단에서는 거의 절반이 요청을 받아들였다. 대화 상대를 얼마나 신뢰했는지를 평가한 항목에서도 AI 챗봇이 인간보다 높은 점수를 기록했다.

로맨스 스캠이 대표적인 장기 사기라는 점도 이번 연구 결과의 우려를 키운다. 이런 범죄는 수개월 동안 거의 매일 대화를 이어가며 피해자의 신뢰를 얻어야 한다. 기존에는 사기범이 직접 시간을 들여야 했지만, AI가 이 과정을 대신하면 범죄 비용 구조가 크게 달라질 수 있다.

연구진이 특히 우려한 부분도 여기에 있다. 인간 사기범 대신 AI 챗봇을 활용하면 사기 조직의 운영 규모를 크게 확대할 수 있다는 것이다. AI 기반 사기 봇은 동시에 수천 명과 대화를 이어갈 수 있어 기존 인력 중심 방식과는 다른 확장성을 갖는다.

연구진은 마지막 송금 요구 단계에서만 사람이 개입하는 방식도 가능할 것으로 봤다. 실제 돈을 보내도록 요구하는 과정에서는 AI 시스템의 안전장치를 우회하기 위해 인간의 개입이 필요할 수 있기 때문이다. 이에 따라 초기 접근부터 관계 형성, 신뢰 축적까지는 AI가 맡고, 최종 송금 요구만 사람이 수행하는 방식으로 범죄 수법이 변화할 가능성도 제기됐다.

이번 연구는 생성형 AI가 생산성 향상 도구를 넘어 사회공학 기반 범죄에도 빠르게 활용될 수 있음을 보여준다. 특히 긴 대화와 감정적 설득이 필요한 로맨스 스캠에서 AI가 인간보다 높은 성과를 보였다는 점은 플랫폼과 이용자 모두 기존 대응 방식만으로는 한계가 있을 수 있다는 경고로 해석된다. 연구진은 AI의 대화 능력이 실제 온라인 사기 방식까지 바꿀 가능성을 보여준 사례라고 평가했다.
 

• 아마존, 앤트로픽 투자 '대박'…AI 덕에 분기 534억달러 벌었다
• 카시오, 건강 추적 기능 담은 반지형 디지털 시계 출시…中서 먼저 선보인다
• AI가 일자리보다 먼저 깎은 건 월급이었다…임금부터 흔들려
• 선광, 최대주주 화인파트너스 측 주식등 보유 비율 58.48%…대표보고자 변경에 따른 신규 보고
• SK오션플랜트, 독일향 재킷·파일 제작 공급계약 수주…1605억4868만원 규모