[디지털투데이 AI리포터] 사이버 공격의 인공지능(AI) 자동화가 이미 본격화하고 있는 것으로 나타났다.

4일(이하 현지시간) 온라인 매체 기가진에 따르면, 앤트로픽은 2025년 3월부터 2026년 3월까지 사이버 공격에 활용된 이유로 이용 정지한 계정 832건을 분석한 결과를 공개했다.

앤트로픽은 해당 계정들을 공격 전술·기술 데이터베이스인 MITRE ATT&CK 체계에 매핑해 분석했다. 조사 대상은 전체 차단 사례의 일부였지만, 공격자들의 기술 수준과 활용 양상을 평가하기에는 충분한 정보가 확보됐다고 설명했다.

분석 결과 AI 활용은 악성코드 작성 등 공격 준비 단계에 가장 집중됐다. 전체 832건 가운데 560건(67.3%)이 공격 준비 과정에서 AI를 사용한 것으로 나타났다. 반면 침해된 네트워크 내부에서 추가 침투나 이동을 위해 AI를 활용한 사례는 54건(6.5%)에 그쳤다.

다만 공격자의 AI 활용은 점차 침투 이후 단계로 확대되는 추세를 보였다. 조사 기간 전반 6개월 동안 중위험 이상으로 분류된 공격자 비중은 33%였지만, 후반 6개월에는 56%로 증가했다. 침해 환경에서 유효한 계정을 탐색하기 위한 AI 활용은 8.9% 늘어난 반면, 초기 접근 수단인 AI 지원 피싱 활용은 8.6% 감소했다.

이번 조사에서는 기존 위험 평가 기준의 한계도 드러났다. 공격자가 사용하는 기법의 종류나 도구, 인터페이스만으로는 실제 위협 수준을 정확히 판단하기 어려워졌다는 것이다. 숙련도가 가장 낮은 공격자도 평균 약 16개의 기법을 사용했고, 가장 높은 공격자는 약 20개의 기법을 활용했다. 또한 클로드 코드, API, 채팅 인터페이스 등 사용 플랫폼 역시 위험 수준과 뚜렷한 상관관계를 보이지 않았다.

앤트로픽은 AI가 공격 과정의 어느 단계에 투입되는지가 더 중요한 평가 기준이라고 설명했다. 고위험 공격자는 초기 접근 단계보다 계정 탐색, 내부 이동, 권한 상승처럼 더 많은 시간과 감시, 실시간 의사결정이 필요한 작업에 AI를 집중적으로 활용하는 경향을 보였다. 이들은 공격 단계 전반을 AI 모델로 연결해 사람의 개입을 최소화하는 구조까지 설계하고 있었다.

기존 MITRE ATT&CK 체계만으로는 이러한 위험성을 충분히 포착하기 어렵다는 사례도 확인됐다. 앤트로픽이 2025년 11월 차단한 국가 지원형 사이버 첩보 작전에서는 공격자가 클로드 코드를 이용해 전 세계 표적 시스템 침투를 시도했다. 해당 공격은 13개 전술에 걸쳐 30개 기법을 사용해 표면적으로는 중위험 공격자와 유사해 보였지만, 실제 위험도는 그보다 훨씬 높았다고 앤트로픽은 평가했다.

당시 AI 모델은 자율 에이전트처럼 명령 실행, 취약점 악용, 인증 정보 탈취, 전술적 의사결정 등을 수행했다. 사람의 개입은 일부 핵심 단계에만 필요했다. 앤트로픽은 앞으로도 AI를 활용한 사이버보안 강화에 지속적으로 나설 계획이라고 밝혔다.
 

• 앤트로픽 CEO "AGI 아직 이르다…기술보다 규제·책임이 먼저"
• 애플 "24시간 끄지 않아도 된다"…비츠 필 새 광고에 담긴 승부수
• 구글, AI 오버뷰 노출 차단 기능 시험…일반 검색 노출은 유지
• 오픈AI 첫 AI 기기, 드디어 베일 벗나…"직접 써봤다"는 CFO의 자신감
• 애플 WWDC 2026 다가온다…새 시리·폴더블·스마트 글래스 '초관심'