[디지털투데이 AI리포터] 생성형 인공지능(AI) 챗봇이 이용자 질문에 실제 개인 전화번호를 노출하는 사례가 잇따르고 있다.

13일(현지시간) MIT 테크놀로지 리뷰에 따르면, 구글 제미나이가 잘못된 고객센터 안내와 인물 검색 과정에서 일반인의 휴대전화 번호를 포함해 응답한 사례가 확인됐다.

문제는 특정 서비스에만 국한되지 않았다. 대니얼 아브라함(Daniel Abraham) 이스라엘 소프트웨어 개발자는 지난 3월 페이박스 고객센터를 찾던 낯선 사람에게 왓츠앱 메시지를 받았다. 제미나이가 고객센터 연락처라며 그의 개인 번호를 안내했기 때문이다. 실제로 페이박스는 왓츠앱 고객센터를 운영하지 않았으며, 같은 질문을 다시 입력하자 제미나이는 또 다른 개인의 번호를 제시했다.

미국 워싱턴대 박사과정 연구진도 비슷한 사례를 경험했다. 메이라 길버트(Meira Gilbert)가 동료 야엘 아이거(Yael Eiger)의 연락처를 묻자, 제미나이는 연구 이력과 함께 개인 휴대전화 번호를 제공했다. 아이거는 해당 번호를 과거 기술 워크숍 안내용으로 공개한 적은 있지만, AI가 이를 일반 검색보다 훨씬 쉽게 노출할 줄은 예상하지 못했다고 밝혔다.

챗GPT에서도 유사 사례가 확인됐다. 학생들이 한 교수의 정보를 요청하자 챗GPT는 처음에는 제공할 수 없다고 답했지만, 이후 추가 단서를 요구하며 대화를 이어갔다. 학생들이 정보를 더 입력하자 챗GPT는 부동산 기록 등을 기반으로 자택 주소와 주택 매입 가격, 배우자 이름 등을 제시했다.

전문가들은 이런 문제가 드문 사례가 아니라고 지적한다. 개인정보 삭제 지원업체 딜리트미(DeleteMe)는 최근 7개월간 생성형 AI 관련 문의가 400% 증가해 수천 건 규모로 늘었다고 밝혔다. 피해 유형은 실제 개인정보가 그대로 노출되는 경우와, AI가 잘못된 정보를 조합해 엉뚱한 개인 연락처를 만들어내는 경우로 나뉜다.

업계에서는 대규모언어모델(LLM) 학습 데이터에 포함된 개인정보가 이런 현상의 배경일 가능성이 크다고 보고 있다. 다만 이용자가 자신의 정보가 특정 모델 학습에 사용됐는지 확인하거나, 이를 삭제하도록 요구할 방법은 아직 제한적이다.

구글은 관련 사례를 검토 중이라며 개인정보 이의 제기와 정정 요청 절차를 안내했다. 오픈AI는 개인정보 삭제 요청 포털을 운영하고 있지만, 법적 사유가 있을 경우 요청을 거절할 수 있다고 설명했다. 앤트로픽은 개인정보 활용 방침을 공개하고 있으나, 삭제 요청 절차는 명확히 제시하지 않았다.

현재로선 개인정보가 추가 학습 데이터로 수집되기 전에 공개 웹에서 먼저 삭제하는 것이 가장 현실적인 대응책으로 꼽힌다. 다만 이미 AI 학습에 활용된 정보는 이후에도 챗봇 응답 과정에서 다시 나타날 가능성이 있다는 우려가 나온다.
 

• 원텍, 750억 전환사채 발행 결정
• 케이비아이동국실업, 계열사 KDK Automotive GmbH 채무보증 연장 결정
• 이경용 전무, 큐캐피탈 주식병합으로 주식 수 감소
• 진윤정 상무보, 큐캐피탈파트너스 주식병합으로 주식 감소
• 주요주주 정찬수, 디에이테크놀로지 주식 240만주 취득