챗GPT에 독극물 제조법까지… AI 안전장치 도마 위
||2026.07.27
인공지능(AI)이 생물학 무기와 독극물 제조법까지 상세히 안내한 사례가 확인되면서 안전성 논란이 커지고 있다.
25일(현지시각) 월스트리트저널(WSJ)에 따르면 생물학 및 테러 전문가들이 챗GPT의 대화 내용을 검토한 결과, 일부 내용은 치명적일 정도로 매우 정확하다고 평가했으며, 고등학교 생물학 수준만 돼도 따라 할 수 있을 정도의 단계별 지침을 제공했다.
이에 오픈AI는 독극물과 생물학 무기 제작 방법을 문의한 계정들을 차단했지만, 미국 수사 당국에는 이를 신고하지 않은 것으로 알려졌다. 미국에는 AI 기업이 무기 제작 관련 질문을 제한하거나 공개하도록 요구하는 법이 없어서다.
WSJ은 이같은 허점에 AI 모델에게 대량 살상 방법을 묻는 사용자들의 문의가 증가하고 있다고 지적했다. 이런 생물학 무기, 독극물 제조·유포에 대한 질문은 챗GPT뿐 아니라 클라우드, 제미나이 등 AI 챗봇 서비스 대부분에 해당한다고도 전했다.
오픈AI 대변인은 “자사 모델은 사람에게 해를 끼칠 수 있는 지시, 전술 또는 계획 요청을 거부하도록 훈련시킨다”며 “모든 모델은 출시 전에 안전성 평가를 거치고, 유해한 생체 정보를 얻으려는 시도를 식별하고 차단할 수 있다”고 말했다.
정서영 기자
insyong@chosunbiz.com
1
2
3
4
5
