[디지털투데이 이진호 기자] 과학기술정보통신부는 AI안전연구소, 한국정보통신기술협회(TTA)와 함께 카카오의 AI 모델 '카나나'를 대상으로 국내 첫 AI 안전성 평가를 실시했다고 29일 밝혔다.

이번 안전성 평가는 AI안전컨소시엄에 참여 중인 카카오와 협의를 거쳐 카카오 AI 모델인 '카나나 에센스 1.5'를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용됐다.

차별적 표현 등 일반적 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용해 점검한 결과 카나나는 유사 규모 글로벌 모델 대비 높은 안전성을 확보한 것으로 나타났다. 

김경만 과기정통부 인공지능정책실장은 "이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례"라며 "국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다"고 강조했다.

• 신한은행, ‘선순환 포용금융 프로그램’ 시행
• 예탁원-거래소, 증권발행·유통정보 실시간 공유 가능해진다
• 미래에셋운용, 전 세계 ETF 순자산 300조원 돌파
• 불법사금융 신고 시 불법추심·대포통장 차단 등 '원스톱' 지원
• 국민연금 올해 수익률 '역대 최고' 20%…기금 21% 늘어 1473조