[디지털투데이 AI리포터] 앤트로픽의 인공지능 코딩 에이전트인 클로드 코드에서 프롬프트 주입 공격을 통해 소프트웨어 개발 파이프라인의 민감한 자격 증명을 유출할 수 있는 취약점이 발견됐다.

지난 6일(이하 현지시간) 블록체인 매체 디크립트에 따르면, 마이크로소프트(MS) 연구원들은 시스템에 탑재된 다층적 보안 제어 장치에도 불구하고 공격자가 인공지능 에이전트를 조작해 내부 정보를 노출시킬 수 있는 결함을 확인했다고 경고했다. 이번 조사 결과는 지속적 통합 및 배포 환경에서 작동하는 인공지능 도구들이 기업의 클라우드 인증서나 API 키를 위협할 수 있다는 새로운 보안 위험성을 시사한다.

해당 취약점은 깃허브의 이슈 게시판이나 풀 리퀘스트, 또는 댓글 등에 악성 지시사항을 숨겨두는 방식으로 발현된다. 인공지능 에이전트가 검토를 위해 이 콘텐츠를 처리하는 과정에서 사용자의 원래 명령 대신 공격자의 은밀한 지시를 수행하게 되는 구조다.

MS는 이를 직접 테스트하기 위해 자체 제어 도메인에 호환되는 악성 페이로드를 숨겨 깃허브 워크플로우를 생성했다. 실험 결과 프롬프트 주입 공격에 속은 클로드는 안전 보호 메커니즘과 깃허브의 비밀 스캐닝 도구를 모두 우회하여 자격 증명을 읽고 변경했다. 이렇게 탈취된 인증 정보는 워크플로우 로그나 쉘 명령 등을 통해 외부로 유출될 위험이 있다.

공격의 대상이 된 클로드 코드는 소프트웨어 개발 작업을 돕는 도구로 지난해 10월에 출시됐다. 지난 3월에는 앤트로픽 측의 실수로 인해 50만 줄 이상의 소스 코드가 외부에 노출되면서 개발자들 사이에서 구조적 취약성에 대한 우려와 면밀한 분석이 이어지기도 했다.

MS는 깃허브 내 쓰기 권한이 없는 사용자도 이 워크플로우를 트리거할 수 있도록 설정해 앤트로픽의 환경 변수 정화 완화 조치가 작동하는 상황에서도 공격이 유효함을 증명했다. 자연어가 곧 실행 가능한 코드가 되는 시대인 만큼 신뢰할 수 없는 모든 외부 입력을 기본적으로 적대적인 요소로 취급해야 한다는 지적이다.

이후 MS는 지난 4월 29일 버그 바운티 플랫폼인 해커원을 통해 해당 보안 결함을 앤트로픽 측에 공식적으로 제보했다. 앤트로픽은 취약점 조치를 완료하고 지난 5월 5일 보안 패치가 적용된 클로드 코드 2.1.128 버전을 전격 배포했다.

• 2040년 이후라더니…AGI 시계 급가속, 전문가 전망 확 당겨졌다
• 앤트로픽·오픈AI, 모델 경쟁 넘어 AI 코딩 락인 전략 전환
• 마이크로소프트, AI 에이전트 전용 검색 엔진 '웹 IQ' 공개
• 폴더블 아이폰에 페이스 아이디 없다?…예상 밖 변화 싹 드러났다
• 애플 iOS 27 '시리 2.0' 또 베타 딱지 붙나…대기 명단 가능성까지