AMD가 꺼낸 ‘저비용 AI’ 전략..."GPU만으론 못 버틴다"

AMD와 레드햇이 기업 AI 인프라 비용 절감을 위한 새 전략을 내세웠다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 기업들의 인공지능(AI) 도입이 본격화되면서 AMD와 레드햇(Red Hat)이 비용 효율을 앞세운 기업용 AI 인프라 전략 강화에 나섰다.

11일(현지시간) 실리콘앵글에 따르면, 두 회사는 고성능 그래픽처리장치(GPU)에 대규모로 투자하는 방식 대신, 업무별 특성에 따라 중앙처리장치(CPU), 저전력 GPU, 고성능 가속기를 나눠 활용하는 전략으로 기업 AI의 총 소유비용(TCO)을 낮추는 데 집중하고 있다.

핵심은 '선택'이다. 초기 AI 도입 단계에서는 많은 기업이 대규모 GPU 클러스터 확보에 집중했지만, 실제 운영 단계로 넘어오면서 추론 비용이 빠르게 증가하고 있다는 문제의식이 커지고 있기 때문이다.

존 햄프턴(John Hampton) AMD 글로벌 엔터프라이즈 기술영업 기업부문 부사장은 "매일같이 기업들로부터 대안을 원한다, 선택지가 필요하다는 이야기를 듣고 있다"라고 말했다. 이어 레드햇과의 협업 역시 폐쇄형 구조가 아닌 개방형 환경에서 다양한 선택지를 제공하는 데 초점이 맞춰져 있다고 설명했다.

기업들이 특히 부담을 느끼는 부분은 AI 질의가 반복될수록 비용이 누적되는 추론 단계다. 햄프턴은 "많은 기업이 AI를 도입해야 한다는 이유로 대형 GPU 클러스터를 먼저 구축했다"라며 "AI 활용 자체는 긍정적이지만, 더는 비용을 감당하기 어렵다는 반응이 나오고 있다"라고 말했다.

이른바 '토크노믹스'(Tokenomics)는 AI 질의 1건마다 비용이 발생하고, 이 비용이 대규모 서비스 운영 과정에서 예산 압박으로 이어지는 구조를 의미한다.

AMD는 이에 대응해 CPU 기반 처리부터 비용 효율형 GPU, 고성능 가속기까지 아우르는 연산 포트폴리오 전략을 제시했다. 워크로드 특성에 맞춰 연산 자원을 배치해 비용 효율과 성능을 동시에 확보하겠다는 구상이다.

햄프턴은 "AI 활용 사례를 CPU나 더 낮은 전력·비용의 GPU에 매핑할 수 있다고 상상해 보라"라며 현재 기업들이 집중하는 추론 영역 전반에 최적화된 해법을 제공할 수 있다고 강조했다.

이 과정에서 새롭게 언급된 제품이 AMD 인스팅트(Instinct) MI350P다. 해당 제품은 PCIe 기반 GPU로, 기존 서버에 비교적 쉽게 적용할 수 있는 공랭식 구성을 앞세워 비용 효율형 추론 수요를 겨냥하고 있다.

여기에 레드햇 AI는 하이브리드 클라우드 환경에서 AI 에이전트를 배포·확장하는 기업용 플랫폼 역할을 맡는다. 두 회사는 하드웨어와 소프트웨어를 결합해 기업들이 특정 고가 장비에 과도하게 의존하지 않도록 하겠다는 방향을 분명히 했다.

서버 통합 역시 비용 절감 전략의 핵심 축으로 꼽힌다. AMD 에픽(EPYC) CPU와 레드햇의 가상화 도구를 활용하면 데이터센터 공간을 줄일 수 있고, 절감한 전력과 예산을 AI 프로젝트에 재투자할 수 있다는 설명이다.

이는 단순히 AI 장비를 추가 도입하는 방식이 아니라, 기존 인프라를 재구성해 AI 투자 재원을 확보하는 전략에 가깝다.

이 같은 흐름은 기업 AI 도입의 우선순위가 성능 경쟁에서 운영 효율 중심으로 이동하고 있음을 보여준다. 특히 하이브리드 환경을 운영하는 대형 기업일수록 모든 업무를 최고 사양 인프라에 올리기보다, 업무별 특성에 맞는 자원을 배치하는 전략이 중요해지고 있다.

AMD와 레드햇은 이러한 흐름에 맞춰 개방형 소프트웨어 스택과 폭넓은 연산 자원 조합을 함께 제시하며 기업 시장 공략에 속도를 내고 있다.

AMD가 꺼낸 ‘저비용 AI’ 전략..."GPU만으론 못 버틴다"

가격대별 인기 장기 렌트카

장기렌트 인기TOP