[지디넷코리아]
KAIST는 유민수 전기및전자공학부 석좌교수 연구팀이 AI 에이전트 계산 자원과 전력 사용량을 체계적으로 분석한 결과를 컴퓨터 시스템 설계 분야 국제학회인 32회 IEEE HPCA(하이-퍼포먼스 컴퓨터 아키텍처)에 지난 2월 발표했다고 5일 밝혔다.
AI에이전트는 스스로 계획을 세우고, 인터넷 검색이나 계산기, 코드 실행 등 다양한 외부 도구를 활용해 복잡한 문제를 해결하는 인공지능이다. 소프트웨어 개발, 연구, 업무 자동화 등 다양한 분야에서 활용이 확대되고 있다.
연구팀은 우선 AI 에이전트를 데이터센터 서버와 GPU가 지속적으로 처리해야 하는 새로운 형태의 작업인 워크로드로 정의했다. 워크로드는 컴퓨터가 수행해야 하는 전체 계산 작업을 말한다.
연구팀이 이를 기반으로 AI 에이전트 하루 계산량과 에너지 소비를 분석한 결과 기존 단계별 추론보다 평균 9.2배 더 많은 대형 언어 모델 호출을 수행했다.
언어 모델을 반복적으로 호출하면서 응답 시간도 크게 증가했다. 답변 시간은 최대 153.7배 늘어났다. 또 외부 도구가 작업을 수행하는 동안 GPU는 전체 실행 시간의 최대 54.5%를 아무 계산도 하지 못한 채 대기하는 것으로 분석됐다.
전력 사용량도 크게 증가했다. 상용 AI 서비스 수준인 700억 개의 매개변수를 가진 대형 언어 모델을 사용하는 AI 에이전트는 질문 한 건을 처리하는 데 평균 348.41Wh 전력을 소비했다.
이는 기존 생성형 AI의 단순 질의응답 방식보다 136.5배 높은 수준이라는 것이 연구팀 설명이다.
연구팀은 하루 137억 건의 AI 에이전트 요청이 발생하는 미래를 가정, 데이터센터 전력 수요가 하루 평균 198.9GWh에 이를 것으로 추정했다.
이는 미국 전체 하루 평균 전력 소비량의 절반에 해당한다.
유민수 석좌교수는 “향후 AI 에이전트가 보편화되는 시대에는 AI 데이터센터 인프라 뿐만 아니라 AI 에이전트 모델과 전력 인프라까지 통합적으로 공동 설계, 최적화하는 접근이 더욱 중요해질 것”이라고 밝혔다.
이번 연구 결과에 대해 국내 전문가도 KSMC(한국과학기술미디어센터)를 통해 의견을 보탰다.
최기영 전 서울대 전기정보공학부 교수(전 과학기술정보통신부 장관)은 “70B LLM(거대언어모델)만으로 단발성 대화를 수행한 것에 비해 같은 LLM을 포함하는 AI 에이전트로 복잡한 질문(HotpotQA)을 수행한 것이 136.5배까지 GPU 에너지 소비가 증가한다는 것을 보여주고 있는데, 이 경우 어려운 질문에 답을 잘하기 위해 어쩔 수 없이 AI 에이전트를 사용하는 면도 있어 적절한 비교라고 하기는 어렵다”고 평했다.
다만 최 전 장관은 “그럼에도 불구하고 단순한 채팅에 비해 복잡한 문제를 풀기 위해서는 현재 기술로는 훨씬 더 큰 에너지를 써야 한다는 것을 잘 보여준다”고 말했다.
또 손화철 한동대 글로벌리더십학부 교수는 “AI 소비 전력 문제는 이미 많이 제기되었지만, AI 발전 과정에서 곧 해소될 사소한 문제인 것처럼 다루어지는 경우가 많다”며 “AI의 미래에 대한 장미빛 예측을 하는 사람들은 전력 문제를 외면하거나, 이 문제가 곧 해결될 수 있다는 막연한 기대와 확신에 기대곤 한다. 그러나 AI가 모두가 사용해야 하는 에너지 가격을 올리는 결과를 초래한다면, AI 사용으로 생기는 유익이 무엇이고, 누구의 유익을 위한 것인지를 좀 더 면밀하게 따져 봐야 한다”고 조언했다.
손 교수는 이어 “AI 기술 발전이 필연이고, 모두의 유익이 될 것처럼 이야기하는 것은 잘못”이라며 “그 발전이 모두의 유익이 되도록 하기 위한 논의와 방향 설정이 선행돼야 한다”고 덧붙였다.