[디지털투데이 AI리포터] 인공지능(AI)이 만든 가짜 판례가 법정까지 흔들었다. 캘리포니아주 마이클 윌너(Michael Wilner) 판사는 AI를 활용해 허위 법적 인용을 제출한 두 개 로펌에 3만1000달러의 제재를 가했다.

13일(현지시간) IT매체 더 버지는 법률 교수 에릭 골드먼(Eric Goldman)과 블레이크 리드(Blake Reid)의 분석을 인용해 이 사건을 조명했다. 마이클 윌너 판사는 "AI가 만든 허위 자료를 보고 관심을 가졌지만, 실제로 존재하지 않는 판례였다"며 "이는 사법 시스템을 위협하는 심각한 문제"라고 지적했다.

사건은 스테이트팜(State Farm)을 상대로 한 민사 소송에서 발생했다. 원고 측 변호사가 AI를 활용해 보충 서면을 작성했지만, 그 과정에서 가짜 법적 인용이 포함됐다. 이 문서는 K&L 게이츠(K&L Gates) 로펌에 전달됐고, 추가 검증 없이 법원에 제출됐다. 마이클 윌너 판사는 "최소 두 개의 인용이 완전히 가짜였다"며 문제를 제기했고, 이후 재제출된 문서에서도 추가적인 오류가 발견됐다. 이에 변호사들은 AI 사용을 인정하며 "구글 제미나이(Gemini)와 AI 법률 도구를 활용했다"고 밝혔다.

이번 사건은 AI를 법률 문서 작성에 활용하는 것이 얼마나 위험한지를 보여 준다. 앞서 도널드 트럼프 미국 대통령 전 변호사 마이클 코언도 AI 생성 자료를 잘못 사용해 법적 문제를 일으켰고, 콜롬비아 항공사 소송에서도 변호사들이 챗GPT가 만든 가짜 판례를 제출해 논란이 됐다. 마이클 윌너 판사는 "AI로 초안을 작성하고 이를 다른 변호사에게 전달한 것은 명백한 잘못"이라며 경고했다.

• MSCI 한국 지수에 삼양식품·한화시스템 신규 편입
• 위세아이텍, 산림청 'e-푸른샘' 2차 사업 수주
• 사진 3장으로 뚝딱…애플, 3D 장면 생성 AI '매트릭스3D' 공개
• 美 공화당, 주정부 AI 규제 10년 금지 법안 추진…빅테크 편들기 논란
• 미소정보기술-하이젠 헬스케어 제휴...글로벌 사업 협력