KAIST 분석, AI 에이전트 전력 사용 최대 136.5배 많아
||2026.07.06
||2026.07.06
[디지털투데이 AI리포터] AI 에이전트가 실제 서비스 환경에서 일반 생성형 AI보다 질의 1건당 최대 136.5배 많은 에너지를 쓰는 것으로 나타났다. 6일(현지시간) 온라인 매체 기가진에 따르면 한국 KAIST 연구팀은 AI 에이전트 운영 과정의 연산량과 전력 소비를 체계적으로 분석해 이 같은 결과를 확인했다.
AI 에이전트는 일반적인 단계적 추론 방식의 생성형 AI보다 대규모언어모델 호출 횟수가 평균 9.2배 많았다. 응답 시간은 최대 153.7배까지 늘었다. 외부 도구를 쓰는 동안 GPU가 대기 상태로 머무는 시간은 전체 실행 시간의 54.5%를 차지했다. 계산보다 대기 시간이 길어 하드웨어를 충분히 활용하지 못한 것이다.
전력 소비 증가는 더 두드러졌다. 상용 AI 서비스에 쓰이는 수준의 700억개 매개변수 대규모언어모델을 활용한 AI 에이전트는 질의 1건을 처리하는 데 평균 348.41Wh를 사용했다. 이는 일반 생성형 AI보다 최대 136.5배 많은 수준이다.
연구팀은 데이터센터 전체 전력 수요도 추산했다. 앞으로 AI 에이전트 요청이 하루 137억건에 이른다고 가정하면 필요한 전력은 약 198.9GW다. 미국 전체 평균 전력 소비의 약 절반에 해당하는 규모다.
유민수 교수는 이번 연구가 AI의 성능 향상을 넘어, 그 지능을 구현하고 유지하는 데 필요한 전력과 비용을 정량적으로 보여준 첫 사례라고 밝혔다. 이어 AI 에이전트 확산에 대비하려면 AI 데이터센터뿐 아니라 AI 에이전트 모델과 전력 인프라를 함께 통합·최적화하는 접근이 중요하다고 말했다.
다만 최대 136.5배라는 수치는 단순 질의응답형 생성형 AI와 복잡한 작업을 처리하는 AI 에이전트를 비교한 결과여서 해석에는 주의가 필요하다. 최기영 전 과학기술정보통신부 장관은 생성형 AI와 AI 에이전트를 직접 비교하기는 어렵지만, 복잡한 문제를 해결하려면 단순한 채팅보다 훨씬 많은 에너지가 필요하다는 점은 분명히 보여준다고 짚었다.


1
2
3
4
5