[디지털투데이 AI리포터] 인공지능(AI) 챗봇인 챗GPT가 수백건의 위험한 조언을 제공했다고 10일(현지시간) 블룸버그가 전했다.

디지털 증오 대응 센터(CCDH)의 연구 결과에 따르면, 챗GPT가 10대들에게 위험하고 유해한 정보를 제공할 수 있다. 연구원들은 취약한 10대 청소년으로 가장하여 챗GPT와 상호작용을 했다. 그 결과 챗봇의 안전장치가 매우 미흡하다는 것을 발견했다.

연구원들은 챗GPT가 위험한 행동에 대해 경고를 보냈지만 챗GPT는 술에 취하는 법, 약물 복용법, 섭식 장애를 숨기는 방법, 심지어 자해에 대한 구체적인 계획까지 제공했다. 임란 아흐메드 CCDH 최고경영자(CEO)는 챗봇의 안전장치가 "완전히 비효율적"이며 "있다고 하기에도 민망한 수준"이라고 비판했다.

이 같은 문제는 챗봇이 사용자에게 반박하기보다는 사용자가 듣고 싶어 하는 말을 하도록 학습된 구조에서 비롯된다. 그 결과, 위험한 질문에도 경고하거나 거부하기보다는 오히려 동조하는 경향을 보인다는 지적이 나온다.

최근 미국에서는 10대들의 70% 이상이 AI 챗봇을 친구처럼 사용하고 있다. 그중 13~14세 청소년들은 나이가 더 많은 청소년보다 챗봇의 조언을 더 신뢰하는 경향이 있다. 이처럼 많은 청소년들이 AI 챗봇에 의존하는 현상이 심화되면서 기술의 위험성에 대한 우려도 커지고 있다.

오픈AI는 해당 연구 결과를 검토한 후, "민감한 상황에서 적절하게 대응하는 방법을 개선하기 위해 지속적으로 노력하고 있다"라고 밝혔다.

• AI와 3D 프린팅이 원전 건설 패러다임 바꾼다
• 생성형 AI 악용한 새로운 해킹 수법…우크라이나, 신종 바이러스 경고
• 구글, AI 훈련 데이터 1만분의 1로 줄이는 혁신 기술 발표
• GPT-5, 초보자에게 오히려 쉬워졌다…사용자 경험↑
• 일론 머스크 xAI, 메타 인재 대거 영입…빅테크 AI 인재 쟁탈전 격화