[디지털투데이 AI리포터] 오픈AI가 고성능 AI인 프론티어 AI를 겨냥한 미국 연방 차원의 규제안을 공개했다. 

4일(현지시간) 온라인 매체 기가진에 따르면 오픈AI는 미국 정부가 프론티어 AI를 어떻게 평가하고 안전성을 확인하며 책임 있게 관리할지 담은 정책 제안서 '프론티어 AI의 민주적 거버넌스: 연방 차원 프레임워크 청사진'을 발표했다.

오픈AI는 AI 공개 여부를 기업 판단에만 맡겨서는 안 되며, 민주적 절차에 기반한 연방 차원의 틀이 필요하다고 밝혔다. 주마다 다른 규제가 늘어나면 기업 대응이 복잡해지고, 국경과 주 경계를 넘는 AI 위험에도 충분히 대응하기 어렵다는 이유에서다.

규제안은 세 가지를 핵심으로 제시했다. 프론티어 AI의 안전성 평가와 투명성 보고를 요구하는 전국 단위 제도, 인공지능 표준혁신센터(CAISI)를 중심으로 한 전문 평가 체계, 정부 전반의 사이버보안과 공중보건 방어 역량을 높이는 전략이다.

세부 조치로는 중대한 위험 평가, 독립 감사, 중대 사고 보고, 비공개 모델 가중치 보호, 내부고발자 보호가 담겼다. 모델 가중치는 AI 성능을 형성하는 내부 데이터로, 유출되면 비공개 모델이 악용될 수 있어 보호가 필요하다고 봤다.

오픈AI는 가장 성능이 높은 AI일수록 공개 전 평가가 필요하다고 했다. 다만 정부 기관이 공개를 허가하거나 금지하는 '문지기'가 돼서는 안 되며, 평가 결과와 안전 대책을 공개하고 최종 책임은 개발 기업이 지는 구조를 상정했다.

오픈AI는 AI가 이메일 초안 작성, 프로그램 버그 탐지, 긴 문서 요약 같은 작업에 이미 쓰이고 있다고 짚었다. 동시에 AI가 사이버 공격 수법을 고도화하거나 생물학적 악용으로 이어질 수 있다는 점도 위험으로 들었다. 이어 AI의 능력이 기존 제도와 규칙 정비 속도를 넘어설 수 있다며, 프론티어 AI가 경제와 과학 연구, 국가안보에 큰 영향을 미치기 전에 제도 정비를 서둘러야 한다고 촉구했다.

• 메타, 직원 모니터링 도입…30분 단위 추적 중단 허용
• 법학 교수들도 제쳤다…로스쿨 블라인드 테스트서 AI 답변 승률 75% '압승'
• 토스랩, 잔디 프로젝트 2.0 출시…엔터프라이즈 무료 제공
• KT도 5G·LTE' 통합요금제' 가세…전 구간 데이터 안심옵션 적용
• 엔에이치스팩29호 주주 티에스인베스트먼트, 엔에이치스팩29호 주식등의 수 보유 지분 해소