[디지털투데이 황치규 기자]앤트로픽이 제한적으로 공개한 AI 모델 미토스가 소프트웨어 취약점을 너무 잘 찾는다고 알려지면서 사이버 보안 분야에 미칠 영향에 대한 관심이 고조되고 있다. 

오픈소스 브라우저 파이어폭스를 제공하는 모질라 재단, 글로벌 보안 업체 팔로알토 네트웍스 등에서 미토스를 활용한 경험이 공유되면서 AI발 위협에 대한 관심이 우려는 더욱 커지는 모양새다. 

미토스 등과 같은 AI 모델로 인한 위협은 보안 분야에만 그치지 않을 것이란 목소리도 있다.

보안 전문가로 하버드 대학교 케네디 스쿨 강사로도 있는 브루스 슈나이어는 최근 가디언에 쓴 칼럼을 통해 앤트로픽 미토스 발표를 계기로 AI가 사이버보안을 넘어 세금 규정과 규제 시스템까지 흔들 수 있다고 주장해 눈길을 끈다.

그는 우선 미토스와 관련한 앤트로픽 행보에 대해서는 다소 비판적이다. 앤트로픽이 미토스를 발표하면서 "너무 위험해서 공개할 수 없다"고 했지만 그는 앤트로픽을 둘러싼 맥락을 좀더 살펴볼 필요가 있다는 입장이다. 그는 앤트로픽이 일반에 공개하지 않은 것은 너무 위험해서 일수도 있지만 스스로 필요해서 그런 것일 수도 있다고 보고 있다. 미토스는 운용 비용이 매우 높아 지금은 일반에 공개할 여력이 없어 보인다는 것이다.

그럼에도 슈나이어가 미토스가 몰고올 위협 자체를 부정하는 건 아니다. 그는 "앤트로픽뿐 아니라 오픈AI, 오픈소스 모델들을 포함한 최신 생성형 AI가 소프트웨어 취약점을 찾아 악용하는 데 점점 나아지고 있다. 공격자들은 이같은 역량으로 세계 곳곳에 있는 핵심 시스템들에 침입해 랜섬웨어를 심거나 데이터를 훔치거나 시스템을 장악할 것이다. 세상이 훨씬 위험하고 불안정해질 수 있다"고 말했다.

물론 방어자들도 AI로 역량을 높일 수 있다. 모질라는 미토스로 파이어폭스에서 취약점 271개를 찾아 수정했다. 슈나이어는 "앞으로 AI가 자동으로 취약점을 찾고 고치는 것이 개발 프로세스에서 표준이 될 것이다"고 말했다.

슈나이어는 미토스같은 AI 모델이 보안을 넘어 보다 광범위한 분야에서 기존 시스템을 위협할 수 있다고 보고 있다.

소프트웨어를 분석하는 데 뛰어난 검색, 패턴 인식, 추론 역량이 비슷한 구조를 가진 다른 시스템에도 적용될 수 있다는게 그의 생각이다. 이를 위해 그는 세금 코드(Tax code: 조세 규정 체계)를 예로 들었다.

그에 따르면 세금 코드는 컴퓨터 코드는 아니지만 입력과 출력이 있는 일련의 알고리즘이다 세금 코드에는 세금 허점(tax loopholes)이라고 부르는 취약점이 있다. 전세 전략이라고 하는 악용 방법도 있다. 조세 회피 전략(tax avoidance strategies)으로 불리는 악용 방법도 있다. 악의적으로 시스템 취약점을 찾아 악용하는 블랙햇 해커(black hat hackers)들도 있다. 세금 쪽에선 변호사와 회계사들이 이런 역할을 한다.

슈나이어는 "주요 투자 은행들이 이미 AI를 활용해 취약점을 악용하는 작업을 비밀리에 진행하고 있을 것을 것"이라며 "미국, 영국 등 산업화된 모든 국가들 세금 코드를 AI에 입력하고 절세 전략을 찾으라고 시키는 것이다. AI가 찾아낼 허점이 10개일지, 100개일지, 1000개일지는 모른다. 여러 나라 세법을 교묘하게 엮어 세금을 줄이는 보다 정교한 방법을 AI가 찾아낼 수 있을지, 아직 아무도 모른다"고 말했다.

이어 "AI가 수많은 절세 아이디어를 쏟아내면 변호사와 회계사가 실제로 쓸 수 있는 것을 골라 법적으로 정당화한 뒤 부유한 고객에게 팔 수 있다"면서 "세금 코드와 마찬가지로 환경 규제, 식품안전 규제 같은 복잡한 규정 체계 어디서든 같은 일이 일어날 수 있다"고 덧붙였다.

 또 이로 인해 피해는 AI가 소프트웨어 취약점을 찾아내는 것보다 더욱 클 수 있다고 경고했다.

그는 "세금 허점은 정부 세수를 줄이고, 규제 허점은 강자가 규칙을 빠져 나갈 수 있게 한다. 소프트웨어 업체는 며칠 안에 패치를 내놓지만, 세금 코드를 개정하는 데는 몇 년이 걸린다. 그 과정은 정치적이고 로비스트들이 패치를 막는다"고 말했다.

이어 "산업혁명이 기계로 인간의 육체 노동을 대체했듯, AI 혁명은 기계로 인간의 두뇌 활동을 대체한다. 지금 우리가 가진 세금 제도, 규제 체계, 보안 시스템은 인간 속도에 맞춰 설계됐다. AI 속도를 감당하도록 만들어지지 않았다. 여기에 적응하는 것은 어렵지만 그렇게 하는 거 외에 선택의 여지는 없다"고 말했다.
 

• 오픈AI, 'API 큰손'에 토큰 어워드 …개발자 공략 가속
• 팔로알토네트웍스 "미토스, 3주 만에 1년치 수동 침투 테스트 수준 취약점 발견"
• 진옥동 신한금융 회장, 북중미 IR 돌입…'밸류업 2.0' 글로벌 투자자 소통 강화
• KB국민은행, 연 5% 초과 이자 줄여준다…개인사업자 지원 확대
• KT, 2년 연속 나토 사이버훈련 '락드쉴즈' 참가