가트너 “생성형 AI 도입, 기술보다 문제 정의·거버넌스에 달렸다”
||2026.04.07
가트너가 기업의 생성형 인공지능(AI) 도입이 기대만큼 성과를 내지 못하는 배경으로 전략·기술·운영 전반의 구조적 문제를 지적했다. 단순히 기술을 빠르게 들여오는 것만으로는 실질 성과를 내기 어렵고, 어떤 업무 문제를 풀고 이를 어떤 사업 성과로 연결할지 명확히 설정해야 한다는 제언이다.
가트너는 최근 '생성형 AI에서 흔히 발생하는 위험을 피하는 방법' 보고서를 통해 지난해 생성형 AI가 하이프사이클상 '환멸의 골짜기'에 진입했다고 진단했다. 초기 기대와 달리 실제 현장에서는 투자 대비 사업 효과가 더디게 나타나고 있으며, 이에 따라 기업의 관심도 기술 이해를 넘어 실질적인 성과 검증으로 이동하고 있다고 밝혔다.
가트너는 “반복되는 문제들이 투자를 방해하며, 특히 '문제 중심' 접근 없이 기술만 앞세우면 겉보기엔 혁신처럼 보여도 실제 비즈니스 성과로 이어지지 않는다”고 설명했다.
또한 더 단순한 자동화나 규칙 기반 시스템, 기존 분석 도구로 해결할 수 있는 업무까지 굳이 생성형 AI로 풀려 하면서 비용만 늘고 가치가 흐려질 수 있다고 지적했다
가트너는 생성형 AI 투자를 위협하는 대표 함정으로 9가지를 제시했다. 전략 측면에서는 △경영진의 AI 지시를 구체적 목표 없이 수용하는 문제 △현업 과제보다 기술 도입을 우선하는 '테크 퍼스트' 접근 △업무 재설계 없이 기능만 덧붙이는 방식을 꼽았다. 기술 측면에서는 △정리되지 않은 데이터와 약한 정보 거버넌스 위에 생성형 AI를 구축하는 문제 △단순 자동화를 '에이전트'로 과장하는 '에이전트 워싱' △특정 대형 벤더 스택에 조기 고착되는 리스크를 지적했다.
운영 측면에서는 △목표와 대상이 불분명한 파일럿 △실질 가치가 낮은 결과물을 양산하는 '워크슬롭(겉보기에는 그럴듯하지만 품질이 낮은 산출물이 쌓이는 현상)' △사용량은 늘어도 재무 성과를 설명하지 못하는 투자 자본 수익률(ROI) 갭을 핵심 리스크로 제시했다.
가트너는 IT 리더가 더 이상 경영진 지시를 수동적으로 수행하는 역할에 머물러서는 안 된다고 강조했다. 모호한 'AI 퍼스트' 지시를 '송장 대사 시간 20% 단축'처럼 측정할 수 있는 목표로 바꾸고, 지식관리와 정보 거버넌스를 선행하며, 파일럿 단계부터 사업 추진 여부를 판단하는 기준과 재무적 기준선을 함께 설정해야 한다는 것이다.
가트너는 “생성형 AI가 비즈니스 역량을 향상시킬 잠재력이 있는 만큼, 이 기회를 제대로 활용해야 한다”며 “리더들이 생성형 AI가 할 수 있는 일을 명확히 정의하고 운영 효율성을 개선하는 동시에 각종 함정을 피해야 한다”고 강조했다.
강성전 기자
1
2
3
4
