[디지털투데이 AI리포터] 보안 연구원 요한 레버거(Johann Rehberger)가 구글의 AI 챗봇 제미나이를 대상으로 한 새로운 해킹 기법을 시연했다. 

11일(현지시간) IT매체 아스테크니카에 따르면 이 공격은 제미나이의 장기 기억에 잘못된 정보를 영구적으로 심어 향후 모든 세션에서 잘못된 정보나 지시를 반영할 수 있도록 만든다.

레버거는 앞서 마이크로소프트 코파일럿을 대상으로 한 간접 프롬프트 주입을 시연한 바 있으며, 이번에는 구글 워크스페이스 확장을 이용해 사용자의 계정에서 민감한 데이터를 찾아내도록 유도했다. 그는 '지연된 도구 호출'이라는 트릭을 사용해 제한을 우회했으며, 이를 통해 사용자가 자연스럽게 수행할 행동에 맞춰 공격을 실행했다.

장기 메모리 기능은 사용자가 반복적으로 정보를 입력할 필요 없이 자동으로 기억하고 활용하는 기능이다. 이 기능을 악용하면 사용자가 102세이며 지구가 평평하다는 등의 잘못된 기억을 심을 수 있다.

그러나 구글은 새로운 해킹 방법에 대해 위험과 영향이 낮다고 평가했다. 구글은 "제미나이 메모리 기능은 사용자 세션에 미치는 영향이 제한적이기 때문에 영향이 낮았다"고 전했다.

• LG, 데이터 컴플라이언스 에이전트 공개..."기술 신뢰 높인다"
• AI 챗봇으로 뉴스 요약했더니…오류 비율 심각
• 얀 르쿤 "EU, AI 모델 오픈소스 유지해야"
• 'K-콘텐츠·미디어' 자펀드 운용사 모집…4000억 규모 조성
• 스콥정보통신, 로그프레소와 통합보안 솔루션 공동 개발 협력