레드햇 "AI 비용 통제? AI 소비자서 공급자로 전환하라"
||2026.06.23
[디지털투데이 황치규 기자]레드햇이 AI 에이전트 시대에 맞춰 플랫폼 전략을 재편하고 있다.
테크진 최근 보도에 따르면 레드햇 전략은 하드웨어부터 에이전트까지 아우르는 오픈소스 풀스택 플랫폼 제공에 초점이 맞춰져 있다.
크리스 라이트 레드햇 CTO는 "AI 토큰 단가는 연간 75~90% 하락하지만, 기업 환경에서 토큰 소비량은 연간 500% 이상 늘고 있다"면서 "고급 추론 모델은 표준 모델보다 토큰을 10~20배 더 쓰고, 자율 AI 에이전트는 여기서 다시 5배를 더 소비한다. 외부 API와 독점 프런티어 모델에만 의존하는 방식이 장기적으로 재정적·운영적으로 지속하기 어렵다"고 말했다.
라이트 CTO는 "AI 비용을 통제하려면 외부 서비스에 돈을 내고 쓰는 소비자에서 벗어나 자체 인프라로 직접 AI를 운영하는 공급자로 전환해야 한다"고 강조했다.
이와 관련해 레드햇은 엔드 투 엔드 AI 스택을 포함하는 '레드햇 AI 엔터프라이즈'를 전진배치했다.
레드햇 AI 엔터프라이즈는하드웨어부터 에이전트까지 5개 레이어를 연결한다. 레드햇 엔터프라이즈 리눅스와 오픈시프트가 인프라 기반으로 포진하고 추론 레이어에서는 오픈소스 표준으로 자리잡은 vLLM과 레드햇이 자체 개발한 분산 추론 프레임워크 llm-d를 활용한다. llm-d는 1년 만에 토큰 처리량을 3배 높이고 첫 응답 시간을 10분의 1로 줄이는 성과를 거뒀다고 회사 측은 강조했다.
모델 서비스 레이어에서는 서비스형 모델(MaaS)을 통해 AI 모델을 조직 내 공유 자원으로 제공한다.
IBM 그래나이트, 미스트랄 같은 오픈소스 모델들을 검증해 지원한다. 특정 모델 하나만 쓰는 게 아니라 용도에 맞게 여러 모델을 골라 쓸 수 있다. AI 게이트웨이가 토큰 할당량, 팀별 접근 권한, 우선순위를 중앙에서 관리해 사소한 실험 프로젝트들이 GPU를 과도하게 소모해 핵심 업무에 지장을 주는 상황을 막아준다.
최상위 레이어는 에이전트 서비스다. 라이트 CTO는 "대기업이 수천에서 수만 개 에이전트를 동시에 운영하는 것이 일상이 되는 시점이 빠르게 다가오고 있다"면서 "레드햇은 에이전트옵스를 통해 각 에이전트에 검증된 디지털 신원을 부여하고 버전 관리와 자동화 보안 테스트를 적용한다"고 설명했다.
레드햇은 엔비디아, AMD, 인텔 등 모든 가속기를 지원하는 하드웨어 중립적인 방식에 집중한다. 엔비디아와는 AI 팩토리를 공동 구성해 블랙웰 GPU를 네이티브로 지원한다.
라이트 CTO는 오픈소스 모델과 독점 모델 간 격차가 빠르게 좁혀지고 있다고도 강조했다. 메타 라마2가 초기 챗GPT 수준에 도달하는 데 8개월이 걸렸다면, 딥시크-R1은 오픈AI-o1 출시 후 5개월 만에 따라잡았다. 그는 "단일 공급업체에 장기 종속되는 AI 전략은 매우 위험하다"고 경고했다.
1
2
3
4
