앤트로픽 CEO "AGI 아직 이르다…기술보다 규제·책임이 먼저"

[디지털투데이 이윤서 기자] 다리오 아모데이 앤트로픽 최고경영자(CEO)가 인간을 넘어서는 인공지능(AI)이 인류에 초월적인 힘을 안길 수 있지만, 사회가 이를 감당할 준비가 돼 있는지는 여전히 불분명하다고 경고했다.

3일(현지시간) IT매체 테크레이더에 따르면 아모데이는 연초에 쓴 에세이에서 초고도 AI의 등장이 단순한 기술 진보를 넘어 통제와 이해의 한계 문제를 함께 불러올 수 있다고 짚었다.

핵심은 AI의 능력이 인간 수준을 넘어설 경우다. 과학자와 기술 업계에서는 AI가 새 지식을 만들어내고, 스스로 행동하며, 자기 자신을 개선하는 단계에 이를 수 있다는 전망이 꾸준히 제기돼 왔다. 이런 가정은 곧바로 실존적 위험 논의로 이어진다. 미래의 AI가 그만큼 강력해질 경우 인간이 이를 억제하지 못할 수 있다는 우려다.

아모데이는 특히 인류 전체가 앞으로 만들게 될 기술을 다루기는커녕 활용할 준비조차 돼 있지 않을 수 있다고 봤다. 그는 "인류는 상상조차 할 수 없는 힘을 넘겨받기 직전이며, 우리가 이를 다룰 성숙함을 갖췄는지는 아직 불분명하다"고 말했다. 기술 경쟁이 빨라질수록 성능 향상 자체보다 이를 다루는 사회적 역량이 더 큰 문제가 될 수 있다는 문제의식이 반영된 발언이다.

그가 제시한 방향은 개발 중단이 아니라 개발 조건의 재설정에 가깝다. 아모데이는 민주주의 체제 안에서 책임 있는 AI 개발을 추진하는 것이 중요하다고 강조했다. 동시에 권위주의적이거나 적대적인 국가가 자체적인 형태의 AI를 개발하는 데는 장애물을 세워야 한다고 주장했다. AI 주도권 경쟁이 국가 단위 전략으로 번지는 상황에서, 기술 자체만이 아니라 개발 주체와 거버넌스가 중요하다는 메시지다.

이런 발언은 앤트로픽의 기업 위상 변화와도 맞물린다. 앤트로픽은 올해 경쟁사 오픈AI와 함께 빠르게 존재감을 키우고 있다. 다만 회사의 성장세와 별개로 아모데이는 오래전부터 AI의 향방과 사회의 대응 방식을 공개적으로 논의해 왔고, 최근 들어 그 경고 수위도 높아지고 있다.

시장과 업계가 주목하는 지점은 AGI, 범용인공지능의 도달 시점이다. AGI 개발 경쟁은 이미 시작됐고, 과학자들은 AGI가 이르면 올해 후반부터 앞으로 수십년 사이 어느 시점에 등장할 수 있다고 보고 있다. 샘 알트먼 오픈AI CEO 역시 AGI 도래를 반복해서 언급해 왔다.

배경 논의도 더 구체화되고 있다. 컴퓨터 과학자 레이 커즈와일은 2029년 AGI가 실현되고, 이후 수십년 안에 인공 초지능이 뒤따를 것으로 전망했다. 다만 쟁점은 기술 도달 시점만이 아니다. 초인간 수준 AI가 현실화할 경우 사회가 그 변화를 감당할 준비를 갖췄는지는 여전히 별개의 문제로 남아 있다.

이번 발언은 AI 산업의 낙관론에 제동을 걸기보다, 개발 경쟁이 본격화하는 시점에 어떤 통제 원칙과 정치적 조건 아래 기술을 키울 것인지 다시 묻는 성격이 강하다. 아모데이는 AI가 만들어낼 힘 자체보다 그 힘을 누가, 어떤 체제에서 다루게 될지가 더 중요하다는 점을 강조하고 있다.

앤트로픽 CEO "AGI 아직 이르다…기술보다 규제·책임이 먼저"

가격대별 인기 장기 렌트카

장기렌트 인기TOP