[ET시론]AI의 불완전성이 인류의 역할을 만든다
||2026.02.22
많은 사람들이 앞다퉈 범용인공지능(AGI) 시대를 운운하지만, 정작 AGI가 무엇인지에 대해 통일된 합의조차 없다. 많은 사람들이 AGI를 모든 영역에서 인간보다 잘하는 인공지능(AI)으로 정의한다. 그러나 인간의 모든 영역이라는 범주 자체가 정의 불가능에 가깝다. 인간 지능을 넘어선다느니, 인류 총합 또는 어떤 다른 AI보다 똑똑하다느니 하는 난립한 정의는 엄격하게 정의되거나 최고의 전문가들이 상호검증을 거쳐 합의한 개념이 아닌 다소 자의적인 비과학적 용어일 뿐이다. 어떤 사람들에게 AGI는 사업적 목표로 이해되지만, 또 다른 이들에겐 마케팅 용어다. 명확한 개념 규정이 없기에 각자 편한 대로 상상하고 믿는 바를 AGI라는 단어에 투영하는 것이다.
2025년 하반기 AI 업계는 거대언어모델(LLM)의 한계가 명확히 드러나면서 전환점에 들어섰다. GPT-5 발표는 세계가 주목하던 순간이었지만, 정작 기술적 혁신보다 성숙과 안정에 가까운 모습이었다. 퀀텀점프는 없었고, 성능 향상은 체감보다 미미했다. 필자는 2025년 8월, 이를 두고 “초거대 언어모델의 겨울이 오고, AI 응용의 봄이 찾아왔다”고 표현했다. 실제로 업계 관심은 점점 성능 수치보다 실용성으로 옮겨가고 있다. 오픈AI의 샘 올트먼이 AGI를 그다지 유용하지 않은 단어라고 말한 것도 같은 맥락이다. 이제 논점은 AI가 지금 우리에게 어떤 구체적 문제를 해결해주느냐로 이동하고 있다.
이러한 분위기 변화는 연이은 AI 석학들의 현실 인식에서도 명확히 드러난다. 강화 학습의 아버지라고 할 수 있는 리처드 서튼은 지난해 9월 “LLM은 막다른 길에 놓여있다”면서 “현재 LLM 패러다임은 AGI로 가는 길이 아니며, 단순히 더 많은 컴퓨팅과 데이터를 투입하는 것만으로는 진정한 일반 지능에 도달할 수 없다”고 말했다. 서튼은 “LLM이 스스로 경험을 통해 배워나가는 능력이 부족하다”고 강조하며 “AGI에 가까운 AI를 만들기 위해서는 현재의 스케일링 중심 접근을 넘는 새로운 구조적 접근이 필요하다”고 지적했다.
아이러니하게도, 바로 그 계산력과 범용성의 신봉자였던 리처드 서튼이 이제 와서 LLM이 막다른 길이라고 선언하자, 실리콘밸리에서는 당혹감이 감돌고 있다. 서튼의 '쓴 교훈(The Bitter Lesson)'은 지난 10년간 AI 연구 개발의 철학적 정당화이자, 이념적 무기였기 때문이다. 더 큰 모델, 더 많은 데이터, 더 많은 그래픽처리장치(GPU)라는 이 단순한 법칙은 AGI로 향하는 직선 도로처럼 여겨졌고, 그 믿음 위에서 큰 투자가 이루어졌다. 그런데 정작 그 사상의 근원이 된 리처드 서튼이 LLM을 부정하자, 업계는 방향타를 놓친 배처럼 흔들리기 시작했다. 한 시대의 기둥이었던 철학이 스스로 흔들리는 지금, 실리콘밸리는 새 교리를 찾아야 하는 순간을 맞이한 것이다.
오픈AI의 공동 설립자이자 최고 과학자인 일리야 수츠케버도 지난해 11월 “2020년부터 이어져 온 모델 키우기 시대는 정점에 도달했으며, 새로운 학습 패러다임이 등장해야만 AI 성능의 다음 도약이 가능하다”고 강조했다. AI 연구자 안드레아 카파시 역시 “지금의 AI는 과거 인간의 산출물을 재현하는 유령에 가깝다”고 비유하며, “실제 상호작용과 지속 학습이 없는 현재의 모델 구조로는 진정한 지능에 도달할 수 없다”고 주장했다. 튜링상에 빛나는 얀 르쿤도 “월드 모델, 행동과 상호작용을 포함한 차세대 AI 접근, 세상을 직접 모델링하고 예측하는 능력을 갖춰야 한다”고 말했다. 즉 AI업계 핵심 인물들조차 이제 LLM 기반의 스케일링 법칙만으로는 한계에 부딪혔다는 점을 공개적으로 인정하고 있는 것이다.
우리는 기술 담론을 맹목적 신앙의 영역으로 끌고 가선 안 되며, 증거와 논리를 바탕으로 냉철하게 판단해야 한다. 또 지능의 다양성과 한계를 인정하는 태도가 필요하다. AGI 유일신론의 환상을 넘어, 겸손하고 현실적인 지능관을 확립할 때다.
AGI의 전능함에 대한 의심은 역설적으로 새로운 산업과 직업을 만들어내고 있다. AI의 판단을 감시·검증·설명하는 인간 중심의 직업이 등장하고 있다. 이미 금융, 의료, 공공 행정 분야에서는 AI 결과를 독립적으로 재검증하는 AI 감사 시장이 형성되고 있으며, 알고리듬의 편향과 오류 가능성을 분석하는 전문 컨설턴트들이 활동하고 있다. 복수의 AI 모델을 비교·선별해 특정 상황에 가장 적합한 모델을 조합하는 모델 오케스트레이터 역할도 점차 중요해지고 있다. 다양한 특화 AI들이 공존하는 다극적 환경에서 인간이 조정자·판단자로 남는 구조다. AI의 불완전성이 오히려 새로운 전문 산업을 낳고 있는 것이다.
국제 AI 안전 보고서 2026도 고도화된 AI 시스템이 능력 측면에서는 빠르게 진보하고 있으나, 신뢰성·통제 가능성·예측 가능성·사회적 안전성은 여전히 불완전하다고 밝히고 있다. 특히 훈련 분포 밖에서의 일반화 실패, 목표 오정렬, 자율적 에이전트의 예측 불가능성, 다중 시스템 상호작용에서 발생하는 복합 위험 등을 체계적으로 지적한다. 이 지점에서 새로운 산업이 발생한다. 대규모 모델의 사전 배포 위험 평가, 레드팀 설계 및 운영, 모델 행동 모니터링 인프라 구축, 정렬 검증, 지속적 안전 감사, 고위험 사용 사례에 대한 인간 감독 체계 설계와 같은 영역이 전문 직업군으로 분화되고 있다.
전능한 AGI가 등장한다면 감독자는 필요 없겠지만, 현실은 오히려 그 반대다. AI의 능력이 커질수록 그것을 시험하고, 설명하고, 통제하고, 책임 구조 안에 묶는 사람들의 수요가 급증한다. AGI의 한계와 불완전성은 고도의 안전 설계·거버넌스·검증 산업이라는 새로운 노동 시장을 창출하는 조건이 되고 있다.
지금 AI가 인간의 삶과 경제에 미치는 영향에 대한 담론은 대부분 모든 인간을 이기는, 또는 다른 모든 AI를 이기는, 완전한 AGI·인공 초지능(ASI)이 나온다는 가정에 기반하고 있다. 그러나 과학적으로 볼 때 AGI·ASI는 절대적이기보다는 상대적인 지능 능력을 보일 가능성이 크다. AGI·ASI의 불완전성은 인류의 새로운 시장, 새로운 일자리, 새로운 경쟁의 양상을 만들고 있다.
이경전 경희대 교수·한국AI서비스학회 회장 klee@khu.ac.kr
〈필자〉KAIST에서 경영과학 학사, 석사, 박사 학위를 받았고 서울대에서 행정학 석사, 박사 과정을 수료했다. 미국 카네기멜런대 로보틱스연구소와 MIT, UC버클리에서 연구했다. 미국인공지능학회(AAAI)가 수여하는 혁신적 인공지능 응용상을 네 차례 수상했고 AI 매거진(Magazine) 등 국제학술지에 40여편의 논문을 게재했다. 현재 경희대 경영대학, 빅데이터응용학과, 첨단기술비즈니스학과 교수이며 빅데이터 연구센터 소장, 한국AI서비스학회 회장을 맡고 있다.
1
2
3
4
5
