한국정보통신기술협회는 1일부터 국내 인공지능(AI) 개발 제품의 보안성 확보를 지원하고, 국가 AI 대전환(AX)을 지원하기 위해 국내 최초로 AI 모델의 생명주기 전반에 걸쳐 보안성을 검증하는 ‘AI 보안 시험 서비스’를 제공한다고 밝혔다.

‘AI 보안 시험 서비스’는 AI 모델의 설계부터 데이터 수집 및 처리, 모델 개발, 시스템 구현, 배포 및 운영에 이르는 모든 단계에서의 보안 요구사항을 시험하고, 그 결과를 공신력 있는 성적서 및 결과서로 발급하는 서비스다. 기존의 보안 솔루션으로는 AI 모델의 특수성을 반영한 보안 위협에 효과적으로 대응하기 어려운 점을 고려해, AI 모델에 특화된 보안 요구사항을 만족하는지 시험한다.

AI 보안 시험 서비스는 데이터 수집 및 전처리 단계에서 개인정보 및 민감 정보의 비식별화와 데이터 오염 방지를 비롯해, 학습 단계에서 적대적 공격 방어 및 모델 위·변조 방지, 배포 및 운영 단계에서 API 보안, 모델 접근 제어, 무결성 검증 등 다양한 보안 요구사항을 검증한다.

TTA는 올해 5월부터 6월까지 국내 AI 제품 3종(비전, 음성, 언어 모델)을 대상으로 파일럿 시험을 진행하여 시험 절차를 개선하고 확정했다. 또한, 올해 4월에는 TTA 단체표준 과제(‘AI 모델 보안 검증을 위한 공통 보안 요구사항’)를 제안해 표준화(PG504, 응용보안/평가인증) 작업을 진행 중이다.

향후 TTA는 더 높은 수준의 보안성을 보장하는 시험 서비스 제공을 위해 시험 영역을 확대하고, AI 보안 영향도 수준에 따른 등급(Basic/Advanced/Industry-Specific)을 설계해 기업 맞춤형 검증 기준을 개발하고 시험 서비스를 고도화할 계획이다.

• KT, NH농협은행과 400억 규모 AI 기반 차세대 컨택센터 구축 추진
• 커피빈, 시그니처 아메리카노 ‘커피빈카노’ 출시… “색다른 커피 경험 제공”
• “대내외 불확실성 탓” 중견기업 3분기 경기전망지수 소폭 하락
• 김상현 롯데쇼핑 부회장 “ESG는 경영 전략의 중심축”... 지속가능경영보고서 발간
• “인테리어 맡겼더니 연락 두절”… 숨고 등 용역 중개 플랫폼 피해 증가