[디지털투데이 손슬기 기자] 정부가 이르면 5월 말 인공지능(AI)발 사이버보안 위협에 대한 종합 대응 방안을 발표한다. 앤트로픽 범용 AI 모델인 오퍼스(Opus) 4.7만으로도 기업 서비스 침투에 성공한 사례가 발견된 데 따른 것이다.

8일 최우혁 과학기술정보통신부 정보보호네트워크정책실장은 '글로벌 AI 기업 사이버보안 프로젝트 대응 전문가 간담회' 후 기자들과 만나 "기업 동의를 받아 오퍼스 4.7로 실질적인 공격을 해 성공한 사례가 포함돼 비공개로 진행했다"며 "전문 해커가 수작업으로 했더라면 며칠이 걸리는 작업을 불과 10여분 만에 찾아냈다"고 말했다. 이어 "글래스윙 참여 협의 현황을 포함한 종합 대응 방향을 5월 말∼6월 초 발표할 계획"이라고 덧붙였다.

앤트로픽 고성능 모델 '미토스(Mythos)' 등장 이후 AI가 방어와 공격 양면에 활용될 수 있다는 우려가 커지면서 정부 대응이 본격화하고 있다. 정부는 지난달 14일 전국 3만여개사 최고정보보호책임자(CISO)를 대상으로 보안 태세 강화를 요청하고, 같은달 30일 'AI 기반 사이버공격 대비 기업 대응 요령 및 CEO 행동 수칙'을 배포하는 등 단계별 대응을 이어왔다.

이번 취약점은 한국인터넷진흥원(KISA) 신속 점검 사업 일환으로 기업 동의를 받아 모의 침투하는 과정에서 발견됐다. 박용규 KISA 디지털위협대응본부장은 "솔루션 취약점이 아닌 기업이 운영하는 실제 서비스 취약점을 찾아 침투하는 과정을 시연했다"며 "홈페이지 인증 우회 취약점을 통해 계정을 확보하고 사이트에 접속하는 일련의 과정을 AI로 실험했다"고 설명했다. AI가 새 패스워드를 생성해 접근권을 획득하는 방식으로 총 7개 취약점이 확인됐다. 해당 기업은 취약점 발견 후 수일 내 패치를 완료했다.

가드레일이 존재하지만 프롬프팅으로 우회 가능하고, 일반인도 AI를 이용해 해킹에 활용할 수 있는 가능성이 있다는 점도 확인됐다.

앤트로픽이 미토스 기반으로 운영 중인 '프로젝트 글래스윙(Project Glasswing)' 참여를 위해 정부도 노력 중이다. 과기정통부 산하 AI안전연구소와 KISA를 통해 앤트로픽과 접촉하고 있다. 최 실장은 "협상하듯 내 카드 저쪽 카드 이런 개념이 아니다"라며 교섭 카드론에 선을 그었다. 현재 글래스윙에는 52개 기업·기관이 참여 중이나 목록 대부분은 비공개다.

오는 11일 류재명 과기정통부 차관이 앤트로픽과 면담할 예정이나 구체적인 협의 안건은 비공개다. 글래스윙 참여 불발 시 후속 대책 등에 대해서도 논의 단계가 아니란 입장이다. 

오픈AI가 사이버 보안 협력 프로젝트 '트러스티드 액세스 포 사이버(Trusted Access for Cyber·TAC)'는 국내 기업 일부가 이미 참여 중이다. 이동현 과기정통부 정보보호산업과장은 "국내 TAC 참여 기업·기관이 있는 것으로 확인된다"며 "구체적인 참여 기업 수와 정부 기관 포함 여부는 공개가 어렵다"고 했다.

이날 간담회에는 SKT, 업스테이지, 모티프테크놀로지스 등 독자 파운데이션 모델 개발사, 주요 AI 기업, 한국정보보호학회장을 비롯한 AI 보안 분야 학계 전문가, 한국정보보호산업협회장을 비롯한 정보보호기업 대표, 주요 기업 CISO 등이 참석했다. 배경훈 부총리 겸 과기정통부 장관이 주재했다.

간담회에서 전문가들은 레거시 시스템 의존으로 취약점 패치가 즉각 이뤄지기 어렵다는 점을 핵심 위험으로 꼽았다. 영국 국가사이버보안센터(NCSC)의 IT 자산 맞춤형 사이버 알람 시스템, 유럽 고위험 취약점 패치 시한 강제 제도가 참고 사례로 제시됐다. 클라우드형 서비스(SaaS) 전환으로 패치 신속화가 가능하다는 의견과 화이트해커 모의 침투 제도화 필요성도 제기됐다. AI 보안 특화 모델 필요성에는 공감대가 형성됐으나, 파운데이션 모델 활용·독자 모델 고도화 등 구체적 방향은 미결이다.

• 팬데믹 때보다 심각…램 공급난에 메인보드 업계 '붕괴' 경고
• "국민 10명 중 3명만 소비 생활에 AI 쓴다"…지역 격차도
• 명인제약, 최대주주등 보통주식 5만주 감소
• 미래에셋캐피탈, 계열사 미래에셋벤처투자 운용 조합에 약260억원 출자
• 비비안, 임시주주총회 6월19일 개최…정관 변경 안건 상정