[디지털투데이 이윤서 기자] 코인베이스가 인공지능(AI) 토큰 사용량이 기하급수적으로 늘어나는 가운데서도 프롬프트를 더 저렴한 모델로 분산해 비용을 거의 늘리지 않고 있다고 밝혔다. 

8일(현지시간) 비즈니스인사이더에 따르면 브라이언 암스트롱 코인베이스 최고경영자(CEO)는 엑스(구 트위터)에 올린 글에서 프롬프트를 적절히 분배하는 방식으로 비용을 일정하게 유지하고 있다고 밝혔다.

이 발언은 최근 AI 업계에서 다시 커진 비용 효율 논의와 맞물린다. 오푸스4.8이나 GPT-5.5 같은 최신 모델은 성능 면에서 앞서 있다는 평가를 받지만, 그만큼 더 많은 토큰을 소모할 수 있다. 앤트로픽이 오푸스4.7을 출시했을 당시에도 일부 사용자들이 사용 한도를 지적한 바 있다. 이는 고성능 모델을 전면에 내세우는 흐름과 별개로, 실제 서비스 운영 단계에서는 어떤 작업에 어떤 모델을 붙일지 가르는 비용 통제가 중요해졌다는 의미다.

암스트롱은 앞으로 비용 구조가 더 빠르게 재편될 것으로 봤다. 그는 "12~18개월 안에 업무의 80%는 99% 더 저렴한 모델에서 실행될 것"이라고 예상했다. 반면 최신 모델은 모두가 상시 쓰는 범용 도구가 아니라, 높은 수준의 추론이 필요한 일부 작업에 집중될 가능성을 제시했다. 암스트롱은 이런 모델이 필요한 경우로 과학적 혁신이나 에이전트 오케스트레이션 같은 상황을 꼽았다.

시장 반응은 엇갈렸지만, 모델을 섞어 쓰는 방향성 자체에는 공감이 모였다. 벤처투자자 마크 앤드리슨은 암스트롱의 발언을 두고 "흥미롭다"고 평가했으며, 애런 레비 박스 CEO 암스트롱이 제시한 수치가 "다소 극단적"이라고 보면서도 향후 AI 활용이 고성능 작업과 대량 처리 작업으로 나뉠 가능성이 크다고 봤다. 고난도 작업은 선두 모델이 맡고, 대규모 반복 업무는 저가 모델이 맡는 구조가 굳어질 수 있다는 얘기다.

토큰을 아끼지 말자는 분위기도 약해지는 모습이다. 당시 기술 업계 일부에서는 높은 토큰 비용이나 최신 모델 사용량 자체를 과시하는 문화가 퍼졌다. 특히 스타트업 업계에서는 토큰 사용을 아끼지 말아야 한다는 주장도 적지 않았다. 개리 탄 와이콤비네이터 CEO는 창업자들에게 토큰을 적극적으로 쓰라고 조언했고, 스타트업 창업자 랜스 얀도 지난 4월 토큰을 아끼는 것은 어리석다고 말한 바 있다.

다만 최근에는 비용과 작업 성격에 따라 모델을 배분하는 쪽으로 무게가 이동하는 분위기다. 토니 젠틸코어 글린 공동창업자는 암스트롱의 의견이 정확하다고 평가했다. 이어 "기술 분야 종사자들은 이미 모두 알고 있는 내용"이라며, 오푸스 가격을 무한대로 단순 계산하는 건 금융시장뿐이라고 지적했다. 

기업들이 AI를 실제 서비스에 붙이는 단계로 넘어가면서, 최신 모델 경쟁 못지않게 어떤 업무를 어떤 비용 구조로 처리할지가 핵심 운영 변수로 떠오르고 있다.

• 오픈AI, 챗GPT 대개편 예고…코덱스·AI 에이전트 한곳에 묶는다
• 백악관, 긴급 ‘클래리티 법안’ 협의 연다…수사기관 우려 해소 나서
• 맥OS 사용자 노린 암호화폐 탈취 기승…지갑 정보·비밀번호 노린다
• 씨틱증권, 유가 리스크 과소평가 경고…비트코인·이더리움에 부담
• 찰스 호스킨슨 “카르다노, 전 세계 신뢰 인프라 운영체제 될 수 있다”