[디지털투데이 황치규 기자]앤트로픽이 AI 개발 속도를 늦출 것을 주요 AI 연구소들에 촉구했다고 월스트리트저널이 4일(현지시간) 보도했다.

앤트로픽은 블로그에 올린 글을 통해 AI 시스템이 인간 개입 없이 스스로를 개선하는 '재귀적 자기개선'(recursive self-improvemen) 단계에 근접하고 있다고 경고했다. AI 개발 속도를 늦추는 것이 "세상에 유익할 것"이라는 입장도 밝혔다. 

이번 게시물은 앤트로픽 내부 연구기관 책임자 마리나 파바로와 공동창업자 잭 클라크가 작성했다.

두 사람은 글에서 재귀적 자기개선이 아직 실현되지 않았고 필연적이지도 않지만, "대부분 조직들이 대비하기 전에 올 수 있다"고 밝혔다. 또 AI 개발 속도를 늦추는 글로벌 협약과 이행 검증 체계 마련을 제안했다. 이를 핵무기 조약에도 비유하면서 "미사일 기지와 달리 AI 학습은 외부에서 확인할 방법이 없어 합의를 어긴 쪽을 적발하기가 훨씬 어렵다"고 지적했다.

클라크는 지난달 런던 강연에서도 재귀적 자기개선이 "2년 이내, 어쩌면 더 빨리 일어날 수 있다"고 말했다. 앤트로픽은 향후 몇 달 안에 정책 입안자, 연구자 등과 관련 논의를 진행할 계획이다.

일각에서는 AI 안전에 대한 앤트로픽 경고가 경쟁사 견제나 마케팅 목적이라는 시각도 있다. 벤처 투자자인 데이비드 색스는" 앤트로픽 경영진이 기업이 자신에게 유리한 방향으로 규제를 만들도록 정부나 정책 입안자에게 영향력을 행사는 규제 포획(regulatory capture)을 추진하고 있다"고 꼬집었다.
 

• AWS, 칩 관련 잇단 대규모 계약...핀터레스트도 아마존 칩 사용 확대
• 라온시큐어, KDB생명보험에 양자내성암호(PQC) 솔루션 공급
• "보안은 데이터와 가까이 있어야...스노우플레이크 역할 커질 것"
• 비트코인, 안도 랠리냐 추가 조정이냐…6만달러대 급락에 6억달러 이상 청산
• 예측시장 거래 역대 최대…폴리마켓·칼시 암호화폐 거래량 신기록