딜로이트 “AI 전환, 기술과 데이터·경험과 실행 연결될 때 가치 나온다”

오늘날 인공지능(AI) 기술은 산업 구조와 경쟁의 방식 자체를 바꾸고 있으며, 많은 기업들이 경쟁 우위를 넘어 생존을 위해 ‘AI 변혁’에 나서고 있다. 하지만 AI 전환은 단순히 새 기술을 받아들이는 것을 넘어 데이터에서부터 프로세스까지 조직의 근간이 함께 움직여야 한다. 딜로이트는 이러한 기업들의 AI 전환에 대해 기술을 넘어 ‘목적’을 기반으로 기술과 데이터, 경험과 통찰력, 실행을 연결해 가치와 경쟁력 창출을 지원한다는 계획을 강조한다.

한국 딜로이트 그룹은 인공지능(AI) 기반 엔터프라이즈 혁신 전략과 실행 사례를 공유하는 ‘딜로이트 커넥트 코리아(Deloitte ConnecT Korea) 2026’을 6월 24일 JW 메리어트 호텔 서울에서 개최했다. 올해로 2회째를 맞는 이번 행사는 ‘AI로 잇고, 혁신으로 전환하다(Connecting Intelligence. Transforming Enterprise)’라는 주제로 글로벌 테크놀로지 리더와 산업 전문가들이 모여 기업의 지속 가능한 성장과 AI 중심 경영 전환 전략을 공유했다.

기술과 데이터, 전문성과 경험, 실행의 연결이 경쟁력 만든다

길기완 한국 딜로이트 그룹 총괄대표는 “AI 기술의 발전 소식은 우리를 흥분시키지만, 실무와 현업의 변화 속도를 따라가지 못할 수 있다는 공포감도 커지고 있다”고 말했다. 이어 “이번 자리가 두려움을 넘어 더 큰 협력을 바탕으로 AI가 한국 산업 현장에 실제로 적용되고, 시대의 변화를 이끄는 계기가 되기를 바란다”고 덧붙였다.

그는 “AI 기술 발전은 산업 구조와 경쟁 방식 자체를 바꾸고 있다. 이는 위기이자 새로운 기회를 만들어갈 출발점”이라며 “이제 경쟁의 포인트는 누가 더 많은 것을 가지고 있느냐가 아니라, 누가 더 빠르게 연결하고 실질적인 변화를 만들어내느냐에 있다”고 말했다.

길기완 대표는 “기업의 경쟁력은 개별 조직의 역량만으로는 완성되지 않는다. 기술과 기술, 데이터와 통찰, 경험과 실행이 연결될 때 비로소 새로운 가치가 만들어진다”며 “고객과 파트너, 다양한 전문성과 경험이 유기적으로 연결되는 구조가 앞으로의 경쟁력을 결정짓는 가장 중요한 요소가 될 것”이라고 말했다.

AI 시대, 기술만으로는 변화 만들기 어렵다

변우철 KT 팔란티어 사업본부장은 팔란티어의 강점으로 솔루션, 문제해결 경험과 FDE(Forward Deployed Engineer)를 꼽았다. 그는 “팔란티어의 경쟁력은 이 세 요소가 결합되고 시너지를 내며 고객 문제를 해결하고 성과를 만들어가는 것”이라고 밝혔다. 이어 “AI 시대는 변화를 탐색하고 신속하게 방향을 제시해야 하며, 본질적 문제에 질문을 제기하고 분석·개선해야 한다. 유연하고 실패를 두려워하지 않는 도전이 필요하다”며 “우리는 이런 경험이 없고, 팔란티어는 이런 부분을 기업에 내재하도록 돕는다”고 말했다.

팔란티어의 특징은 ‘온톨로지(Ontology)’ 계층이며, 이 안에는 데이터와 로직, 액션 계층이 있다. 특히 ‘액션’ 레이어는 디지털 환경에서 결정된 행동을 현실에서도 그대로 실행할 수 있게 하는 것이 강점으로 꼽혔다. 팔란티어의 플랫폼을 제대로 쓰려면 분리된 데이터 사일로를 깨고 데이터를 통합하고, 공통의 온톨로지를 만드는 과정이 필요하다고 제시했다. 변 본부장은 “팔란티어는 AX 단계 중 ‘팀 멤버’와 ‘업무 파트너’ 수준이 집중한다”며 “이를 위해서는 도메인 데이터와 온톨로지 기반에 신뢰도를 갖춰야 한다”고 조언했다.

유현성 삼성전자 MX사업부 클라우드팀 그룹장은 딜로이트와 함께 한 ‘AI 운영(AIOps)’ 도입 사례를 소개했다. 유현성 그룹장은 “AI가 몰고 올 충격은 극복해야 할 대상이고 피할 수 없는 변화”라며 “조직 주류 문화가 변화를 타고 있는지가 중요하다”고 말했다. 또한 달로이트와 함께 초기 교육과 컨설팅을 통한 현황 파악과 방향 설정을 잡았고, 목표로는 “중장기적으로 장애복구시간 90% 이상 단축, 10분 이내 장애탐지 99% 이상, 시스템 운영 업무 반복작업 비중 20% 이하”를 제시했다.

실제 운영 환경에 AI 지원이 들어간 기능에는 환경 변경 등에 대한 영향 분석 자동화와 신규 구축시 아키텍처 리뷰 프로세스 등이 소개됐다. 특히 아키텍처 리뷰 프로세스에서는 기존의 5주 과정을 2주 이내로 단축이 가능할 것으로 기대되지만, 최종 점검은 사람이 하는 형식으로 구현했다고 소개했다. 현재 이 프로젝트는 아직 ‘사후 대응’ 수준이지만 올해 ‘자동 대응’ 수준까지 고도화하고, 2028년에는 ‘자율 운영’을 구현하는 게 목표다. 유현성 그룹장은 “올해를 AI 기반 운영으로 패러다임을 전환하는 원년으로 하고자 한다”며 “AI 시대와 에이전트 고도화에도 이 일을 할 엔지니어를 키우는 것을 소홀히 하지 말라”고 당부했다.

데이터에서 시작해 프로세스로 완성되는 AI 변혁

김성진 한국앤컴퍼니 CDO(최고디지털책임자) 겸 CIO(최고정보책임자)는 딜로이트와 함께 한 ‘바이브 코딩’ 구현 사례를 소개했다. 이 사례는 경영진들이 그룹 내 한국타이어와 한온시스템이라는 서로 다른 비즈니스를 가진 조직의 정보를 한 화면 안에서 보고 분석해, 결정까지 가능하도록 해야 하는 어려운 과제였다. 이러한 과제를 위해 한국앤컴퍼니와 딜로이트가 시도한 방법은 통합 데이터 플랫폼 기반에서 데이터를 잘 알고 있는 현업과 컨설턴트가 자신들의 요구사항을 ‘바이브 코딩’으로 구현하는 것이었다.

한국앤컴퍼니는 바이브 코딩 기반 구현의 효과로 전통적인 SI 개발에서는 39주를 예상했던 개발을 17주로 줄였고, 인력은 1명만 투입해 예상 인원 7명 대비 6명을 줄였으며, 종합적으로는 전통적인 개발 과정에서는 27.5M/M(Man/Month) 대비 76% 줄어든 6.5M/M으로 구축을 완료했다고 설명했다. 김성진 CDO&CIO는 “이제 내부 개발 체계를 바이브 코딩 기반으로 전환 중”이라면서도 “프로세스의 특정 단계에 어떤 AI가 들어오더라도 프로세스 전반의 개선 없이는 기업 전반의 생산성에 미치는 영향은 미지수”라고 지적했다.

이어 김성진 CDO&CIO는 “부문별 바이브 코딩은 전사 프로세스 재설계를 거쳐 엔터프라이즈 AI 전환까지 이어져야 한다”며 “데이터와 보안, 거버넌스는 필수로 무엇도 포기할 수 없을 부분”이라 소개했다. 또한 “듣는 것과 느끼는 것은 다르다. 리더들도 AI를 직접 쓰고 바이브코딩을 해야 한다”며 “바이브 코딩으로 기술적 장애가 해결된다면 도메인 지식과 맥락 등이 중요해진다. 리더에 있어서는 비용 절감을 넘어 전략 수립과 적용 방식이 달라지는 것”이라고 제시했다.

이문태 LG AI 연구원 슈퍼인텔리전스랩장은 “현재 AI는 적극적인 투자에도 수익이 적은 상황이다. 하지만 에이전틱 AI가 본격화되면서 상황이 바뀌고 있다”고 말했다. 그는 “현재는 코딩 모델에 집중하는데, 이것이 현재 웹 환경 등에서 실행력이 있기 때문”이라며 “실행력을 갖추려면 몇 가지 필요한 일들이 있다”고 설명했다. 그리고 기존 범용모델들이 잘 수행하지 못하는 영역에서는 도메인 특화 모델로 성능을 크게 끌어올릴 수 있다고 소개했다.

AI 모델의 ‘자율 개선’을 위한 구조는 데이터와 모델, 에이전트 레벨로 구성된다. 이 구조는 들어오는 데이터를 분석하고 자동으로 평가해 분류한다. 이후 고품질 데이터로 도메인 모델을 학습, 미세조정하고, 학습에 사용하지 않은 데이터로 자동 평가를 진행하며 모델의 품질을 높인다. 이문태 랩장은 “작업자들의 워크플로우를 어떻게 녹여내느냐가 승부의 핵심”이라며 “이 과정도 도메인 평가자와 같이 작업하면서 자동 증진하는 시스템을 녹여냈다”고 말했다. 이어 “현재는 반자동 정도의 시스템이고, 최근 개념검증 사례에서 25% 정도 성능이 증진됐다”고 덧붙였다.

향후 모델의 발전에도 데이터가 중요하다. 이문태 랩장은 “이제 웹에 있는 지식들은 파운데이션 모델이 거의 흡수했다”며 “앞으로는 실제 행동과 실행을 거쳐 사람들이 평가하는 과정에서 피드백이 쉬운 부분부터 발전할 것”이라 전망했다. 또한 “채용에서도 예전에는 ‘역량’을 봤다면 이제는 에이전트를 써서 역량을 얼마나 늘릴 수 있는지가 관건이 될 것”이라며 “비용 구조를 개선할 것인가 사람 역량을 증진할 것인가도 생각해볼 문제”라고 덧붙였다.

크리스틴 안 딜로이트 엔비디아 담당 최고 커머셜 책임자 및 총괄 고객 서비스 파트너(좌), 오사마 콰지 엔비디아 글로벌 솔루션 아키텍처 리드(우) / 권용만 기자

AI 시대의 기반 ‘AI 팩토리’의 경제학

크리스틴 안(Christine Ahn) 딜로이트 엔비디아 담당 최고 커머셜 책임자 및 총괄 고객 서비스 파트너와 오사마 콰지(Osama Qazi) 엔비디아 글로벌 솔루션 아키텍처 리드의 대담 세션도 흥미로웠다. 오사마 콰지 리드는 “이제 엔비디아는 AI 팩토리, AI 데이터센터를 다루는 회사로 거듭났다. AI 데이터센터는 단순히 하나의 칩이나 GPU로 구성되는 것이 아니라, 모든 것이 하나로 통합된다. 엔비디아 솔루션 아키텍트 팀은 지난 7년간 딜로이트와 협력해 딜로이트 내에서 엔비디아 플랫폼을 활용해 고객을 위한 솔루션을 구현하고 문제를 해결해 왔다”고 소개했다.

이어 “우리 생애에서 이 정도 규모의 산업 혁명은 처음이며, 우리가 일하는 방식을 근본적으로 바꿀 것”이라며 “우리는 새로운 과제들을 해결해야 하고 이러한 변화를 조직 생산성으로 연결해야 한다. 산업계는 이 변화를 이끌어낼 동력을 확보하기 위해 노력하고 있다”고 말했다. 또한 “이제 우리는 에이전트를 인간의 능력을 증강하는 존재로 생각하기 시작했다. 비즈니스 프로세스에 에이전트의 속도를 제공하려면 AI 팩토리가 필요하다. 더 낮은 비용으로 토큰을 생산해야 하고 성능을 개선하고 비용을 절감해야 한다. 토큰 경제의 이점을 누리려면 ‘풀 스택’ 접근 방식이 필요하다”고 제시했다.

AI의 투자 수익률에 대한 의문에 대해서는 “여러 가지 일이 동시에 일어나고 있다”며 “AI 도구가 발전하고 에이전트가 더욱 지능화되는 중요한 시점이 올 것이다. 조직에 에이전트 기반 인력을 효과적으로 도입하는 방법을 파악해야 하고, 데이터를 활용해 비즈니스 워크플로우에 통합할 수 있는 도메인별 모델을 만드는 방법을 이해해야 한다. 이 때 의미 있는 투자수익 계산이 가능할 것”이라 말했다. 한국 시장의 차세대 유망 사례로는 “한국은 기술 경제, 자율 제조, 로봇 공학, 자율 주행을 기반으로 한 강력한 자율 경제가 있다”며 “엔비디아의 ‘코스모스(Cosmos)’같은 세계 모델 개발에 집중해야 한다”고 제안했다.

권용만 기자
yongman.kwon@chosunbiz.com