AI 에이전트의 에너지 비용을 정량적으로 확인
인공지능(AI) 산업의 폭발적인 전기 수요가 정부와 유틸리티, 기술 기업들에게 새로운 고민거리가 되고 있다. 그러나 새로운 연구는 차세대 인공지능이 기존의 문제를 훨씬 더 악화시킬 수 있음을 시사하고 있다. 한국과학기술원(KAIST)의 연구자들이 발표한 연구는 AI 에이전트의 에너지 비용에 대한 최초의 종합적인 분석을 제공한다.
주요 결과 요약
- 복잡한 에이전트 쿼리 1건당 평균 348.41Wh 전력 소비
- 일반 챗봇 방식 대비 최대 136.5배 높은 전력 사용
- 응답 지연 시간은 최대 153.7배 증가
- GPU가 외부 도구 작업 완료를 기다리며 최대 54.5%의 실행 시간 동안 유휴 상태 확인
이번 연구는 AI 에이전트의 에너지 비용을 정량적으로 분석한 유의미한 사례로 평가받고 있다.
스마트한 AI가 더 큰 전력을 소비한다
전통적인 챗봇이 단일 응답을 생성하는 것과 달리, AI 에이전트는 대규모 언어 모델(LLM)을 반복 호출하고, 웹 서핑, 코드 실행, 연산 사용 및 외부 소프트웨어와 상호작용하며 복잡한 작업을 해결한다. 이러한 능력 덕분에 연구, 프로그래밍 및 자동화에서 상당히 유용해졌지만, 이는 더 많은 컴퓨팅 자원을 필요로 한다.
KAIST 전기및전자공학부의 류민수 교수 연구팀은 AI 에이전트를 새로운 유형의 데이터 센터 작업 부하로 분류하였다. 현실적인 시나리오에서 이들의 계산 요구사항을 측정한 결과, AI 에이전트는 기존의 논리적 사고 방식과 비교해 응답 지연 시간을 최대 153.7배까지 늘릴 수 있다는 사실을 발견했다. 특히, 이 높은 전력 소비를 초래하는 고비용 GPU는 외부 도구가 작업을 마치기를 기다리며 최대 54.5%의 실행 시간 동안 유휴 상태로 남아 있었다.
전력 사용의 급격한 증가
연구에 따르면 70억 개의 파라미터를 가진 언어 모델로 구동되는 AI 에이전트는 평균적으로 쿼리당 348.41Wh를 소비해야 하며, 이는 전통적인 챗봇이 간단한 질문에 응답하는 것보다 약 136.5배 높은 수치이다. 연구팀은 AI 에이전트가 하루에 137억 건의 요청을 처리하는 모델링을 한 결과, AI 인프라가 대략 198.9 기가와트의 전력을 필요로 하고, 이는 전체 미국의 평균 전력 소비량의 거의 절반에 해당함을 발표했다.
인공지능의 숨겨진 비용
이러한 결과는 OpenAI, Google, Microsoft 및 Anthropic 등을 포함한 기업들이 점점 더 에이전틱 AI에 투자하고 있는 가운데 나왔다. 연구팀은 AI 모델의 개선만으로는 충분하지 않다고 강조하며, 미래의 진보는 더 효율적인 반도체, GPU 활용 개선, 스마트한 데이터 센터 설계 및 전력 인프라 확대에 달려있다고 밝혔다.
류 교수는 “이 연구는 AI 경쟁력이 ‘더 똑똑한 AI’를 만드는 것에서 ‘더 효율적인 AI’를 만드는 방향으로 이동하고 있음을 보여준다”며, 향후 AI 개발은 모델, AI 칩, 서버 및 에너지 시스템을 통합하여 최적화해야 한다고 주장했다.
이 연구는 “The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective”라는 제목으로 IEEE 국제 고성능 컴퓨터 아키텍처 심포지엄에서 발표되었으며, 연구팀은 AI 에이전트 벤치마크를 오픈 소스로 제공하여 AI의 빠르게 성장하고 있는 비용인 전기 소비를 줄이기 위한 추가 작업이 이루어지길 희망하고 있다.
필자의 단상
필자는 AI 기술이 발전함에 따라 그에 따른 전력 소비의 문제가 점점 더 심각해질 것이라는 점에 경각심을 가져야 한다고 생각한다. 오늘날 우리는 인공지능의 다양한 응용 프로그램을 통해 많은 편의를 누리고 있지만, 그 뒤에 숨겨진 에너지 비용과 환경적 영향을 간과해서는 안 된다. 향후 AI 기술의 발전은 단순히 성능 향상에 그치지 않고, 지속 가능한 발전을 위한 노력이 필수적이라고 믿는다.
추천 콘텐츠
참고 및 출처: The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective / KAIST, digitaltrends
