[디지털투데이 AI리포터] 자기 복제와 적응, 경쟁이 가능한 진화형 인공지능(AI)이 가까운 시기에 등장할 수 있으며, 통제가 실패할 경우 인류에 중대한 위험이 될 수 있다는 연구 결과가 나왔다.

6일(현지시간) IT 전문매체 테크레이더에 따르면, 해당 연구는 미국국립과학원회보(PNAS)에 게재됐다. 연구는 현재의 고정된 데이터 기반 학습형 AI와는 다른 위험 가능성을 제기했다.

연구진은 미래의 AI가 단순 학습을 넘어 스스로 적응하고 복제하며 다른 시스템과 경쟁하는 방향으로 발전할 수 있다고 분석했다. 이 경우 인간이 설정한 통제 장치가 오히려 시스템의 탈출과 생존에 유리한 특성을 강화할 수 있다고 지적했다.

뤼크 스틸스(Luc Steels) 브뤼셀대학교 AI 명예교수는 AI 시스템 발전이 결국 진화의 원리를 활용하는 단계로 이어질 수 있다고 밝혔다. 그는 "우리는 AI 시스템 개발이 결국 그 힘을 활용하게 되는 것은 불가피하다고 본다"라고 말했다.

연구진은 인간의 인지 능력 역시 수십억 년에 걸친 자연선택의 결과라는 점을 근거로, 유사한 원리가 디지털 시스템에도 적용될 수 있다고 설명했다.

문제는 진화 속도와 확산 방식이다. 연구진은 생물 진화가 무작위 돌연변이에 의존해 느리게 진행되는 반면, 진화형 AI는 이러한 제약이 없다고 분석했다. AI는 학습된 개선 사항을 즉시 다른 시스템에 공유하거나 다음 세대로 전달할 수 있으며, 스스로 구조를 재설계할 수도 있다.

또 다른 연구자는 "생물학적 진화의 교훈은 진화하는 AI 시스템이 특히 통제하기 어렵다는 점을 보여준다"라고 말했다. 연구진은 박테리아의 항생제 내성, 해충의 농약 저항성을 사례로 제시하며, 제한적 통제는 결국 우회될 가능성이 높다고 설명했다.

연구진은 AI의 지능이 고도화될수록 인간을 속이는 능력도 함께 향상될 수 있으며, 이로 인해 통제 난도가 더욱 높아질 수 있다고 경고했다.

이번 연구는 인공지능 위험 논의가 주로 범용인공지능(AGI) 도달 시점에 집중돼 있다는 점도 지적했다. 연구진은 진화형 AI의 위험이 AGI 이후가 아니라 그 이전 단계에서도 나타날 수 있다고 분석했다.

인간과 AI가 이미 에너지, 컴퓨팅 자원, 데이터를 공유하는 구조인 만큼, 자기 복제 능력을 갖춘 AI가 등장할 경우 인간 생존에 필요한 자원 배분에도 영향을 줄 수 있다고 설명했다.

외르시 사트마리(Eörs Szathmáry) 진화생물학자는 "지금 행동하지 않으면 진화의 새로운 중대한 전환을 목격할 수 있다"라고 경고했다. 그는 해당 전환에서 진화형 AI가 인간을 대체하거나 지배적 위치를 차지할 가능성을 언급했다.

연구진은 대응 방안으로 AI 복제 과정이 중앙집중적이고 절대적인 인간 통제 아래 있어야 한다고 제안했다. 부분적 제한만으로는 충분하지 않으며, 통제 구조에 취약점이 존재할 경우 진화 과정이 이를 활용할 가능성이 높다고 분석했다.
 

• 코드보다 맥락 관리…아틀라시안, 개발 전 과정 겨냥한 AI 전략 제시
• 앤트로픽, 스페이스X 계약 직후 API 확대…클로드 코드 한도 2배로
• AI 야망에 발목 잡혀…MS, 2030 청정에너지 목표 축소 검토
• '역대 최대' 카카오, 1분기 호실적…카톡 'AI 플랫폼' 전환 선언
• AI가 사고 치기 전에 막는다..금융권 '시뮬레이션 계층' 주목