"AI기본법으로 미토스 못 막는다...예방 보다 복원 중심 규제 필요"

[디지털투데이 손슬기 기자] 인공지능(AI) 보안 위협에 대응할 실질적인 법 체계가 없다는 지적이 나왔다. 현행 보안 규제가 침투를 막을 수 있다는 전제 위에 설계된 탓에 '미토스' 등 AI가 스스로 취약점을 찾아 공격하는 고성능 AI에는 작동하지 않는다는 것이다.

5일 법무법인광장·한국정보통신법학회·한국데이터AI법정책학회·정보통신정책연구원(KISDI)이 공동 주최한 '제2회 AI법정책포럼'에서 정세진 법무법인광장 변호사는 "AI는 알려진 위험을 차단하는 기존 보안 체계로는 대응이 어렵다"며 "복원력과 동적 대응 중심으로 보안 규제 패러다임을 바꿔야 한다"고 주장했다.

생성형 AI 등장 이후 AI를 활용한 사이버 공격이 급증하면서 보안 규제 정비 필요성이 커졌다. 크라우드스트라이크 2026 글로벌 위협 보고서에 따르면 2025년 AI를 활용한 사이버 공격은 전년 대비 89% 증가했다. 공격자가 최초 침투 후 내부 자산을 찾기까지 걸린 시간도 평균 29분으로 줄었다. 가장 빠른 사례는 27초였다. 정 변호사는 "좋은 AI 툴을 구독하고 활용 의지만 있으면 누구나 해커가 될 수 있는 시대"라고 했다.

문제는 이런 위협에 맞설 법적 근거가 없다는 점이다.

핵심은 고성능 AI 통제 수단 미비다. AI기본법 제32조는 고성능AI 사업자에게 위험관리 결과를 과학기술정보통신부 장관에게 제출하도록 하는 데 그친다. 취약점 자동 탐지·침투 코드 생성·사이버 공격 자율 수행 능력이 확인된 AI 시스템이 미토스처럼 배포되더라도 막을 방법이 없다. 독립 평가기관의 사전 인증 의무도, 위험 모델 배포를 제한할 규정도 없다. 정 변호사는 "연산량(FLOPs)이 아니라 실제 공격 능력을 기준으로 통제 여부를 판단해야 한다"고 했다.

에이전틱 AI가 일으킨 사고 책임을 물을 방법도 마땅히 없다. 현행 개인정보보호법상 개인정보 안전성 확보조치 기준은 접근권한 관리와 접속기록 보관 의무를 '사람'을 전제로 설계하고 있다. AI 에이전트는 직원 지시 없이 스스로 데이터베이스를 열람하고 외부로 데이터를 전송할 수 있지만, 현행법상 기록 의무는 직원 접속에만 적용된다. 유출 사고가 나도 에이전트가 무엇을 했는지 추적이 불가능하고, AI 개발사·이용사·직원 중 누가 책임을 져야 하는지도 불분명하다. 정 변호사는 "에이전트 AI는 스스로 권한을 확장하고 위임할 수 있어 사람 기준의 정적인 접근 권한 체계가 맞지 않는다"고 지적했다.

◆"AI 공격 어차피 못 막는다면, 회복력 중심 규제 설계 필요"

EU 디지털 운영 회복력법(DORA)이 대표 사례다. DORA는 금융권을 대상으로 실전용 침투 테스트를 정기적으로 의무화하고, 테스트 결과에 따른 대응 조치를 요구한다. 신속 보고 체계와 복구 시간·복구 시점 목표 설정 의무도 포함한다. 정 변호사는 "침투를 막겠다는 게 아니라 침투당했을 때 얼마나 버티고 복구하는가를 규제의 기준으로 삼는 것"이라고 설명했다.

동적 대응 체계로의 전환도 제안됐다. EU 네트워크·정보보안 지침(NIS2)처럼 고정된 보안 조치 목록을 강제하는 대신, 각 기업의 환경과 위협 프로파일에 맞는 유동적 보안 체계를 요구하는 방식이다. AI는 알려지지 않은 취약점을 기계 속도로 탐색하기 때문에 정형화된 의무로는 대응이 불가능하다는 논리다. AI 공급망에 외부 업체가 다수 개입하는 만큼 제3자 위협 상시 관리도 핵심 요소로 꼽혔다.

처벌제에서 인센티브제로의 전환 필요성도 강조됐다. 상시 위험관리 체계 구축, 취약점 신고·조치 체계 운영 등 사전 역량을 갖춘 기업에는 인센티브를 부여하고, 충분한 조치를 다했음에도 침해가 발생한 '성실실패(good-faith failure)'의 경우엔 처벌을 경감하는 방향이다. 정 변호사는 "사고 자체가 아니라 대응 역량을 기준으로 판단해야 한다"고 했다.

"AI기본법으로 미토스 못 막는다...예방 보다 복원 중심 규제 필요"

가격대별 인기 장기 렌트카

장기렌트 인기TOP