AI 발전에 생물학 무기 개발 ‘우려’ 커져…대응책은?

AI 기술 발전으로 생물학 무기 개발 문턱이 낮아지고 있다는 경고가 나온다.[사진: 셔터스톡]

[디지털투데이 AI리포터] 인공지능(AI) 기술 발전으로 생물학 무기 개발 문턱이 낮아지고 있다는 전문가 경고가 나오고 있다.

6일(현지시간) 온라인 매체 기가진에 따르면 생화학자이자 전 유엔 무기 사찰관인 로코 카사그란데(Rocco Casagrande)는 지난해 백악관 고위 관리들에게 AI 기술이 위험한 바이러스를 만들 수 있다고 경고했다.

당시 카사그란데는 시연을 통해 AI가 제안한 병원균의 합성 DNA를 실제로 구매해 시험관에 넣어 백악관으로 가져오는 과정을 보여주며 AI를 이용해 생물학 무기 재료를 비교적 쉽게 구할 수 있다는 것을 증명했다.

카사그란데의 경고는 국가안보 네트워크를 통해 퍼져나갔고, 국방부, 국무부, 국토안보부 등의 고위 관리들도 비슷한 시연을 요구하게 되었다. 이 같은 시연은 AI가 생물학 무기 개발을 용이하게 할 수 있는 가능성에 대해 미국이 얼마나 무방비 상태인지를 인식시키는 계기가 되고 있다고 기가진은 전했다.

이에 바이든 행정부는 지난해 10월 말 포괄적인 행정명령을 발표했다. 여기에는 인공 DNA를 사용한 정부 자금 지원 연구에 대한 감시 강화, AI 안전성을 검토하는 기관 설립, 생물학적 데이터를 다루는 AI 도구에 대한 가이드라인 및 보고 요건 마련 등이 포함되어 있다. 또한, 올해 3월에는 130명 이상의 과학자들이 AI를 생물무기 개발에 사용하지 않겠다는 서약에 서명한 바 있다.

톰 잉글스비 존스홉킨스대 보건안보센터 소장은 "정부가 AI 기업을 정기적으로 감사하고, 해를 끼친 경우 책임을 묻는 방법을 검토해야 한다"라고 주장했다.

한편 AI 기업들도 관련 대책 마련에 나섰고 있다. 앤트로픽과 오픈AI는 AI가 생물학 무기에 대한 정보를 제공하지 않도록 각 모델을 조정하고 있는 것으로 전해졌다.