2026년, 생성형 인공지능(AI) 시장의 격전지가 근본적으로 이동하고 있다.

그동안의 경쟁이 파라미터 규모를 키우고 추론 능력을 입증하는 '파운데이션 모델(Foundation Model)' 원천 기술의 싸움이었다면, 이제는 '누가 기업 고객의 비즈니스 현장에 AI를 가장 빠르고 완벽하게 이식하느냐'를 겨루는 이른바 '구현(Implementation) 및 SI(시스템 통합)' 경쟁으로 진입했다.

시장을 양분하고 있는 오픈AI와 앤트로픽이 최근 전통적인 컨설팅 및 SI 기업들의 고유 영역까지 직접 파고드는 행보는 향후 엔터프라이즈 AI 생태계의 판도를 가를 중대한 변곡점이다.

‘현장 밀착형 해결사’ 자처하며 엔터프라이즈 전선에 뛰어든 오픈AI와 앤트로픽

최근 오픈AI의 비즈니스 전략 중 가장 눈에 띄는 것은 단연 '포워드 디플로이드 엔지니어(Forward Deployed Engineer, FDE)' 조직의 대대적인 강화와 전문 IT 서비스 기업 인수 추진이다.

그동안 오픈AI는 범용 모델을 만들고 API를 제공하는 기술 벤더의 역할에 집중해 왔다. 그러나 수많은 엔터프라이즈 고객들이 PoC(개념증명)나 파일럿 단계를 넘어 실제 핵심 업무에 AI를 연동하는 과정에서 거대한 벽에 부딪히며 이른바 '라스트 마일의 저주'에 빠졌다. 이에 오픈AI는 팔란티어(Palantir)와 같이 최고 수준의 소프트웨어 엔지니어를 고객사 현장에 파견(Forward Deployed)해 내부 데이터 파이프라인을 분석하고 자사의 AI 모델을 고객의 레거시 시스템에 맞춤형으로 직접 코딩하는 강수를 두고 있다. 나아가 기업의 AI 도입을 전담할 IT 서비스 업체들과의 M&A까지 추진하며 생태계 전반을 장악하려 하고 있다.

오픈AI의 이러한 공격적인 행보에 맞서, '클로드(Claude)'를 서비스하는 앤트로픽 역시 거대한 자본을 바탕으로 직접적인 SI 생태계를 조성하고 있다. 앤트로픽은 최근 블랙스톤, 골드만삭스 등 대형 프라이빗에쿼티(PE) 및 투자사들과 손잡고 엔터프라이즈 AI 구축을 전담하는 신규 서비스 기업을 설립한다는 계획을 발표했다.

이는 단순히 클라우드 플랫폼 위에 모델을 올려두는 수동적인 접근이 아니다. 앤트로픽의 응용 AI 엔지니어들이 신설 법인과 직접 결합해 유즈케이스 발굴부터 RAG(검색증강생성) 아키텍처 설계, 맞춤형 시스템 구축 및 장기 유지보수까지 일괄 수행하겠다는 강력한 의지다. 두 빅테크 모두 단순한 기술 공급자를 넘어, 기업의 IT 인프라 전체를 아우르는 '원스톱 서비스 제공자'로 탈바꿈하고 있는 것이다.

도입의 편의성 이면에 숨은 전체 스택 ‘록인(Lock-in)’의 딜레마

초거대 AI 원천 기술을 가진 벤더가 컨설팅과 SI 구축까지 직접 수행하면 기업 고객(특히 CIO) 입장에서는 단기적으로 확실한 이점을 얻는다. 복잡한 솔루션 아키텍처를 두고 여러 파트너사를 조율할 필요 없이 핵심 벤더와 직결됨으로써 초기 구축 리스크를 줄이고 도입 속도(Time-to-Market)를 획기적으로 높일 수 있기 때문이다. 하지만 그 이면에는 강력하고도 치명적인 '벤더 종속(Lock-in)' 리스크가 도사리고 있다.

과거의 IT 환경에서는 특정 클라우드 인프라나 서비스형 소프트웨어(SaaS)에 묶이는 수준이었다면 이제는 모델부터 데이터 파이프라인, 프롬프트 엔지니어링 템플릿, 기업의 고유 워크플로우 등 '서비스 계층 전반'이 특정 AI 기업의 생태계에 완전히 종속될 위험이 크다. AI 기업들이 고객의 비즈니스 프로세스와 데이터 거버넌스까지 직접 설계하고 통제하게 되면, 향후 더 혁신적이고 비용 효율적인 오픈소스 모델(Open-source Model)이나 경쟁사의 모델이 등장하더라도 벤더를 교체하는 것은 사실상 인프라를 새로 짓는 것만큼이나 불가능해진다.

대한민국 B2B AI 산업의 과제: 종속을 넘어서는 전략적 아키텍처의 설계

오픈AI와 앤트로픽의 거침없는 SI 영토 확장은 국내 엔터프라이즈 리더들과 IT 서비스 업계에 시급한 생존 과제를 던진다.

첫째, AI를 도입하려는 국내 기업들은 초기 아키텍처 설계 단계부터 철저하게 '모듈형 아키텍처(Modular Architecture)'를 지향해야 한다. 특정 모델의 성능이 가장 뛰어나다고 해서 구현부터 운영(LLMOps)까지 모든 운전대를 한 기업에 넘겨서는 안 된다. 기업의 핵심 자산인 데이터 파이프라인과 비즈니스 로직을 AI 모델 계층과 철저히 추상(Abstraction)해 분리함으로써 언제든 상황에 맞는 최적의 모델(Multi-LLM 전략)을 플러그인 형태로 갈아 끼울 수 있는 유연성을 확보하는 것이 핵심이다.

둘째, 국내의 전통적인 SI 및 IT 서비스 기업들은 뼈를 깎는 혁신으로 대응해야 한다. 글로벌 AI 빅테크가 직접 시스템 구축 영역까지 집어삼키는 시장에서 살아남으려면 단순한 인력 파견이나 조립형 구축 역량을 넘어서야 한다. 금융·제조·공공 등 한국 시장 특유의 깊이 있는 도메인 지식(Domain Knowledge)을 바탕으로, 데이터 주권(Sovereign AI)을 보장하는 온프레미스(On-premise) 및 하이브리드 보안 환경 구축에 특화된 독보적인 솔루션 프로바이더로 거듭나야 한다.

엔터프라이즈 AI의 가치는 이제 '누가 더 똑똑한가'를 넘어, '누가 기업의 심장부에 가장 깊숙이, 그리고 단단하게 이식될 것인가'의 문제로 진화했다. 시장의 독점적 '룰메이커'가 되려는 글로벌 빅테크들의 거대한 플랫폼 전략 속에서, 단기적인 기술적 편의성에 취해 미래 시스템의 자율성을 잃지 않으려는 우리 기업들의 치열한 혜안과 IT 생태계의 각성이 그 어느 때보다 절실한 시점이다.

※ 외부필자의 원고는 IT조선의 편집방향과 일치하지 않을 수 있습니다.

윤석빈 트러스트 커넥터 대표는 서강대 AI·SW 대학원 특임교수로 36Kr 코리아 고문, 투이컨설팅 자문과 한국 경영학회 디지털 경영 공동위원장, 법무 법인 DLG 고문으로 활동하고 있다. 한국 오라클과 한국 IBM 등 IT 업계 경력과 더불어 서강대 지능형 블록체인 연구센터 산학협력 교수로도 활동했다. 동국대학교 국제정보보호대학원 인공지능보안 전공 교수로도 활동하고 있다. 

• [부음] 김민철(제너시스비비큐 커뮤니케이션실 상무)씨 모친상
• AI가 흔든 37년 ‘HWP’… 잠자던 공공문서 데이터화 “이제 시작”
• “삼성전자는 없애버려야” 노조 부위원장 발언 파문
• 스페이스X, 6월 12일 나스닥 상장 추진… 예정보다 1주일쯤 앞당겨
• 홈플러스, 메리츠에 자금지원 재차 요청