딥마인드 CEO, AI 모델 사전 검증 기구 설립 위해 워싱턴 로비

데미스 허사비스 구글 딥마인드 최고경영자(CEO)가 최첨단 인공지능(AI) 모델을 출시 전에 검증할 국제기구 설립을 위해 미국 워싱턴에서 정책 로비에 나선다. AI 기업과 각국 정부가 모델 공개 여부를 사안별로 협의하는 현 체계만으로는 사이버·생물안보 위험에 대응하기 어렵다는 판단에서다.

17일 블룸버그에 의하면 허사비스 CEO는 다음 주 미국 정책당국자들과 만나 AI 모델 사전검증 기구 설립안을 논의할 예정이다. 허사비스 CEO가 제안한 기구는 독립적인 기술 전문가가 주요 AI 기업의 최신 모델을 출시 전에 최대 30일 동안 평가하고 안전성을 검증하는 방식이다. 운영비는 주요 AI 기업이 부담한다.

허사비스 CEO가 기구 설립을 제안하게 된 계기는 앤트로픽의 AI 모델 ‘미토스’였다. 그는 미토스가 보여준 고도화된 사이버 능력을 사회를 향한 ‘경고 사격’으로 봤다. 그는 AI 성능이 빠르게 높아지면 수년 안에 생물안보 분야에서도 새로운 위험이 발생할 수 있다고 우려했다.

구글 딥마인드도 최신 모델이 일정 성능과 벤치마크에 도달하면 정부와 AI 보안 연구기관에 관련 내용을 공유하고 내부 안전성 시험을 진행하고 있다. 최근 앤트로픽과 오픈AI도 트럼프 행정부와의 협의 과정에서 최신 모델 공개 시점을 조정했다. 허사비스 CEO는 기업과 정부가 모델마다 개별적으로 공개 여부를 협의하는 현재 방식은 장기적으로 지속하기 어렵다고 봤다.

허사비스 CEO의 구상은 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스X CEO의 지지를 받았다. 허사비스 CEO는 앤트로픽의 다리오 아모데이 CEO를 포함한 주요 AI 기업 경영진에게도 사전에 의견을 구했다. 제안에는 위험 수준이 높아질 경우 주요 AI 연구소가 공동으로 개발 속도를 조절하도록 하는 방안도 포함됐다.

다만 미국과 유럽연합, 중국이 서로 다른 AI 규제 방식을 택하고 있고 미국 의회도 포괄적인 연방 AI 규제법을 마련하지 못했다. 허사비스 CEO는 블룸버그에 “다음 단계는 블로그 게시물을 공개하는 데 그치지 않고 실제로 이 구상을 실현할 수 있는지 확인하는 것이다”라며 “추상적인 구상이 아니라 구체적인 방안이 필요했다”고 밝혔다.

변인호 기자
jubar@chosunbiz.com