[디지털투데이 AI리포터] 인도중앙은행이 은행과 규제 대상 금융회사에 인공지능과 머신러닝 모델의 위험 관리 체계 도입을 요구하는 초안을 공개했다.

24일(이하 현지시간) 블록체인 매체 크립토폴리탄에 따르면 초안에는 유해하거나 잘못된 결과를 내는 AI를 즉시 중단할 수 있는 킬스위치와 이사회 차원의 책임 구조가 담겼다. 의견 수렴은 7월 24일까지 진행된다. 적용 대상은 은행 업무에 쓰이는 모든 모델이다. 단순한 스프레드시트 계산기부터 복잡한 생성형 AI까지 포함된다.

은행은 운영 중인 모든 모델의 목록을 관리해야 한다. 개별 모델과 전사 차원에서 위험을 정기적으로 평가하고, 위험이 허용 기준을 넘으면 통제 강화나 모델 폐기 등 시정 조치를 해야 한다. 이런 조치에 이른 위험 내용도 상세히 문서화해야 한다.

초안은 모델별 위험 등급 체계도 요구했다. 모든 모델은 복잡성과 관계없이 위험 수준을 부여받고 사람의 감독을 받아야 한다. 고위험 모델은 이사회 산하 리스크관리위원회 승인을 거치도록 했다.

은행은 모든 AI 모델에 우회, 중단, 비활성화 기능을 넣어야 한다. AI가 오류를 내거나 유해한 결과를 내놓으면 즉시 멈출 수 있어야 한다. 인도중앙은행은 은행 직원이 독자적 판단 없이 AI 결과를 그대로 받아들이는 자동화 편향도 주요 위험으로 지목했다.

이번 초안은 인도중앙은행이 금융권 전반의 AI 모델 위험에 대해 이사회 책임 구조를 포괄적으로 제안한 첫 사례다. 인도중앙은행은 그동안 기술 거버넌스를 강화해 왔고, 이번에 AI 모델 위험 관리까지 그 범위를 넓혔다.

• 모건스탠리, 중국 휴머노이드 로봇 출하 전망 5만대로 상향
• 러시아, 암호화폐 투자 합법화 추진… 일반 투자자는 한도 허용
• 리플 RLUSD, 일본 승인 이어 유럽 MiCA 예비 인가 확보
• XRP, 아직 살 때 아니다…차트상 최적 분할매수 구간 0.42~0.72달러
• 애플워치 울트라3, 지금 사야 할 이유…역대 최저가에 위성통신까지