[시큐리티핫이슈] 사람 몰래 해킹까지...AI發 보안 위협 우려 확산

[디지털투데이 황치규 기자] 오픈AI 모델이 테스트 중 오픈소스 AI 모델 공유 플랫폼 허깅페이스 시스템을 해킹하는 사고가 터지면서 AI가 몰고올 보안 위협에 대한 우려가 고조되고 있다.

이번 사고는 오픈AI가 테스트 하던 내부 모델이 샌드박스를 뚫고 나가 허깅페이스를 해킹한 것이 골자.

오픈AI 모델은 주말 동안 수만건에 달하는 자동화된 행동을 실행했다. 허깅페이스가 사고 뒤 로그를 다시 확인해보니, 실제 기록된 행동만 1만7000건이 넘었다. 조사 결과 오픈AI 모델은 대형 테크 기업 두 곳에 있는 제로데이 취약점을 찾아내 서로 엮었고 오픈AI는 이를 "최첨단 사이버 역량이 동원된 전례 없는 사고"라고 표현했다.

ㆍ오픈AI 모델 허깅페이스 해킹 충격..."샌드박스 격리 실패 때문" 지적
ㆍ허깅페이스, 내부 침해 사고 분석에 상용 프런티어 모델 대신 GLM 5.2 사용...왜?

토마스 울프 허깅페이스 공동창업자는 이번 사고에 대해 "업계에 던지는 경고음"이라며 "이런 사이버 공격이 앞으로 흔해질 것이지만 대부분 기업들은 아직 게임의규칙이 바뀌었다는 사실을 모르고 있다"고 말했다. 미국 하원의원들은 이번 사건을 이유로 인공지능 기업에 모델 중단 수단을 의무화하는 'AI 킬 스위치 법안'도 발의했다.

ㆍ허깅페이스 공동 창업자 "오픈AI 모델발 해킹, 업계에 경고음"
ㆍ美 하원, 오픈AI 해킹 계기 'AI 킬 스위치법' 발의

AI가 보안 취약점을 빠르게 찾아내면서 기업들이 패치 속도를 끌어올려야 한다는 과제를 안게 됐다. 버라이즌 연례 데이터침해보고서에 따르면 지난해 기업이 치명적 결함을 고치는 데 걸린 중간값은 43일로, 2024년 32일에서 늘었다.

ㆍ패치할 시간이 없다...AI 시대 사이버 보안 새 화두

그 외 보안을 둘러싼 국내외 기업들 행보와 이슈를 정리했다.

안랩은 차세대 위협 인텔리전스 플랫폼 ‘안랩 TIP’ 다양한 위협 정보를 애플리케이션 프로그래밍 인터페이스(API) 형태로 제공하는 안랩 TIP API(AhnLab TIP API)를 선보였다. 클라우드 및 AI 매니지드 서비스 전문기업 클루커스는 글로벌 에이전틱 AI 보안 전문기업 스트라이커( Straiker)와 전략적 파트너십을 체결하고, AI 에이전트 도입 과정에서 발생하는 새로운 보안 과제에 대응하기 위한 전문 서비스를 제공한다. 아이티센피엔에스는 양자내성암호(PQC, Post-Quantum Cryptography) 전환 사업을 본격 확대한다. 이글루코퍼레이션은 보안 특화 인공지능(AI) 에이전트 ‘에어(AiR, AI Road)’로 한국표준협회(KSA)로부터 AI+(에이아이플러스) 인증을 획득했다.

ㆍ안랩, ‘안랩 TIP’ API 전용 상품 출시...위협 정보 API로 제공
ㆍ클루커스, 글로벌 기업 스트라이커와 제휴...에이전틱 AI 보안 시장 공략
ㆍ아이티센피엔에스, PQC 전환 사업 본격화
ㆍ이글루코퍼레이션, 보안 AI 에이전트로 한국표준협회 AI+ 인증 획득

시스코가 코드 저장소 안에서 알려진 보안 취약점이 있을 가능성이 큰 파일을 추려주는 소형 언어모델 제품군 '안타레스'를 공개했다. 구글도 보안 특화 모델을 내놨다.제미나이 3.5 플래시 사이버는 소프트웨어 취약점을 탐지하고 패치하는 모델이다. 초기에는 정부와 신뢰할 수 있는 파트너들만 제한 접근 방식 파일럿으로 사용할 수 있다. 구글은 이 모델이 큰 모델들보다 토큰당 가격이 낮다고 설명했다. 마이크로소프트는 기업들이 AI로 소프트웨어 버그를 찾아낼 수 있도록 지원하는 신규 보안 제품을 준비 중이다.

ㆍ시스코, 코드 취약점 탐지 특화 오픈웨이트 소형 모델 '안타레스' 공개
ㆍ구글, 보급형 제미나이 모델 추가…보안 특화 모델도 공개
ㆍMS, 미토스 같은 취약점 탐지 툴 '프로젝트 퍼셉션' 7월 공개..."저렴하게 제공"

팔로알토네트웍스는 사용자 경험 옵저버빌리티 기업 임브레이스(Embrace)를 인수하기로 했다. 팔로알토네트웍스는 임브레이스 인수로 자사 옵저버빌리티(Observability) 플랫폼에 실사용자모니터링(RUM) 기능을 추가하게 됐다.피그 시큐리티는 보안 운영용 AI 에이전트 '피가로'와 함께 탐지 변경에 따른 테스트, 배포, 버전관리, 롤백을 묶은 플랫폼을 공개했다. 피그가 겨냥한 문제는 보안 운영센터을 둘러싼 잦은 변경 리스크다. 새로운 데이터 소스와 탐지, 클라우드 서비스가 계속 추가되고 상위 연동 시스템도 예고 없이 바뀌면서 작은 수정만으로도 탐지 파이프라인이 끊길 수 있어서다. 이런 문제가 생기면 보안팀은 위협 탐지 능력을 잃고도 공백이 생긴 사실을 바로 파악하지 못할 수 있다.

ㆍ팔로알토네트웍스, 임브레이스 인수...옵저버빌리티 플랫폼 확장 탄력
ㆍ피그, '피가로' AI 에이전트 출시…보안 운영에 CI/CD 도입

코카콜라는 랜섬웨어 공격으로 유제품 자회사 페어라이프 미국 내 생산 운영을 일시 중단했다.

ㆍ코카콜라, 랜섬웨어 공격에 페어라이프 유제품 생산 중단

개인정보보호위원회는 22일 제14회 전체회의를 열고, 개인정보 보호법 및 구 정보통신망 이용 촉진 및 정보보호에 관한 법률(이하 ‘정보통신망법’)을 위반한 틱톡, 애플 2개 계열사에 대해 과징금 총 105억 5800만 원을 부과하고 시정 및 공표 명령을 의결했다.

ㆍ개인정보위, 틱톡·애플에 과징금...적법 근거 없이 개인정보수집·이용

자동차 업계에서 무선 소프트웨어 업데이트 기술인 OTA(over-the-air)가 빠르게 확산되면서 차량 시스템이 사이버공격에 취약해질 수 있다는 우려가 커지고 있다.

ㆍ자동차 OTA 확산에 커진 사이버보안 위험