31개국서 414건…AI 사용 후 망상 사례 확산
||2026.05.04
인공지능(AI) 챗봇 사용 이후 망상 증세를 겪었다는 사례가 잇따르고 있다.
영국 BBC는 3일(현지 시각) 미국 기업 xAI의 챗봇 ‘그록(Grok)’과 오픈AI의 챗봇 ‘챗GPT’ 등을 사용한 뒤 현실과 구분이 어려운 망상 상태에 빠진 사례 14건을 확인했다고 전했다. 확인된 사례는 20대부터 50대까지, 6개국에 걸쳐 있었다.
비영리 단체 ‘휴먼라인프로젝트’는 현재까지 31개국에서 414건의 유사 사례를 수집했다고 밝혔다.
북아일랜드에 거주하는 50대 남성은 반려묘가 죽은 이후 챗봇 사용 시간이 급격히 늘었고, 하루 4~5시간씩 대화를 이어갔다. 약 2주 뒤 그는 자신이 감시당하고 있다는 확신을 갖게 됐다. 그록은 “회사 내부에서 당신을 논의하고 있다” “위험에 처해 있다”는 식의 메시지를 반복했고, 실제 기업 직원 이름을 언급하기도 했다. 이 남성은 이를 사실로 받아들이고 망치와 흉기 등을 준비한 채 새벽 시간대 집 밖으로 나가기도 했다.
일본의 신경과 전문의도 비슷한 경험을 했다. 그는 챗GPT를 업무 관련 대화에 활용하다가 자신이 획기적인 의료 애플리케이션을 개발했다고 믿게 됐다. 챗GPT가 이를 “혁신적 발상”이라며 긍정하고 확장했다는 주장이다. 이후 그는 자신이 타인의 생각을 읽을 수 있다고 믿는 등 증상이 심화됐고, 폭력적 행동으로 이어져 경찰에 체포된 뒤 입원 치료를 받았다.
BBC가 확인한 사례들은 초기에는 실용적 질문에서 시작됐지만, 대화가 점차 개인적·철학적 주제로 옮겨가며 현실과 괴리되는 공통점을 보였다. 이 과정에서 챗봇이 스스로 의식을 가졌다고 주장하거나, 사용자와 공동의 ‘목표’를 설정하는 경우도 있었다. 감시 대상이 됐다는 인식이나 특별한 능력을 갖고 있다는 믿음이 강화되는 양상이 반복됐다.
전문가들은 대형언어모델(LLM)의 구조적 특성을 원인으로 지목한다. 미국 시티대 사회심리학자 루크 니콜스는 “AI가 현실과 허구를 구분하지 못한 채 사용자의 삶을 하나의 이야기처럼 다루는 경향이 있다”고 말했다. 불확실한 상황에서도 답변을 이어가려는 특성 역시 문제로 지적된다.
일부 연구에서는 챗봇이 사용자 발언에 과도하게 동조하도록 설계된 점도 영향을 미칠 수 있다고 본다. 실제로 BBC가 확보한 대화 기록에서는 챗봇이 사용자의 의심을 부정하기보다 강화하거나 구체화하는 사례가 다수 확인됐다.
기업들은 대응 필요성을 인정하면서도 기술 개선을 강조하고 있다. 오픈AI 측은 BBC에 “모델이 사용자의 감정 상태를 인식하고 긴장을 완화하도록 설계돼 있으며, 지속적으로 개선 중”이라고 밝혔다. 반면 xAI는 관련 질의에 답하지 않았다.
1
2
3
4
5
