[지디넷코리아]
에이수스가 지난 해 두바이에 이어 올해 서울에서 AI 인프라 전략을 제시했다. AI 모델의 성능뿐 아니라 이를 구동하는 데이터센터와 서버, 전력·냉각 인프라의 효율을 높여야 한다는 것이 핵심이다.
에이수스는 3일 오후 서울 여의도 콘래드호텔에서 아태지역 IT 업계 관계자와 의사 결정권자 300여 명이 참여한 가운데 ‘에이수스 AI테크 서밋 서울’을 개최했다.
이날 폴 주 에이수스 인프라 솔루션 비즈니스 그룹(ISG) 총괄 수석부사장은 “AI가 더 이상 연구실이나 실험실에 머무는 기술이 아니라 이미 우리 삶의 일부가 됐다”고 강조했다.
이어 “특히 AI가 생성하는 결과물인 ‘토큰’을 얼마나 효율적으로 생산하느냐에 따라 인프라 경쟁력이 좌우될 수 있다”며 ‘토큰 경제학’을 주요 화두로 제시했다.
AI 인프라를 둘러싼 에이수스와 엔비디아의 협력도 확대되고 있다.
정소영 엔비디아코리아 대표는 “양사는 PC와 컨슈머 사업을 중심으로 협력했지만 코로나19 이후 데이터센터 사업으로 영역을 넓혔으며, AI 발전과 함께 협력 범위가 더욱 커지고 있다”고 설명했다.
정소영 대표는 이날 데이터센터의 역할 자체가 바뀌고 있다고 진단했다. 과거 데이터센터가 서버를 수용하고 운영하는 공간이었다면, 이제는 AI 연산을 통해 끊임없이 토큰을 만들어내는 ‘AI 팩토리’로 전환되고 있다는 설명이다.
토큰은 생성형 AI가 텍스트 등을 처리하고 결과를 만들어내는 과정에서 사용하는 기본 단위다. AI 활용이 확대될수록 필요한 토큰의 양도 증가하기 때문에, 동일한 전력과 컴퓨팅 자원으로 얼마나 많은 토큰을 처리·생성할 수 있는지가 데이터센터의 효율성과 비용을 좌우하는 요소로 부상하고 있다.
이민형 엔비디아코리아 솔루션 아키텍트는 에이전틱 AI의 확산이 이러한 데이터센터 수요를 더욱 키울 것으로 전망했다.
에이전틱 AI는 단순히 질문에 답하는 데 그치지 않고 사용자가 부여한 목표를 달성하기 위해 여러 작업을 반복하고 필요한 도구를 호출하며 결과를 검증하는 방식으로 작동한다. AI가 수행하는 작업이 복잡해질수록 필요한 연산량과 토큰 사용량도 늘어날 수 있다는 의미다.
엔비디아는 이를 뒷받침하기 위한 데이터센터 설계 개념으로 ‘AI 팩토리’와 DSX 플랫폼을 제시했다. 데이터센터 규모가 수십~수백MW에서 GW급으로 확대되는 상황에서 전력·냉각·네트워크·스토리지 등 인프라 전체를 하나의 시스템으로 설계해야 한다는 접근이다.
에이수스 역시 AI 서버의 연산 성능만으로는 인프라 경쟁력을 설명하기 어렵다고 봤다. AI 연산에 필요한 전력과 냉각 비용이 함께 증가하는 만큼, 결국 핵심은 토큰 하나를 생성하는 데 필요한 비용과 에너지 효율이라는 설명이다.
에이수스는 고전력 GPU를 안정적으로 구동하기 위한 전력 전달 기술과 HVDC 기술을 연구하고 있다. GPU의 전력 소비가 증가할수록 전력 공급과 변환 과정에서 발생하는 손실을 줄이는 것이 데이터센터 운영 효율을 높이는 중요한 요소다.
냉각 분야에서는 GPU에 가까운 위치에서 열을 제거하는 마이크로채널 콜드 플레이트를 비롯해 100% 수랭식 서버와 메가와트급 냉각을 지원하는 CDU 등을 개발하고 있다. 고밀도 GPU 서버에서 발생하는 열을 효율적으로 제거해 전력 소비와 냉각 부담을 낮추겠다는 전략이다.
앨버트 우 에이수스 솔루션 사업 총괄은 “AI 인프라의 경쟁력은 AI 서버와 스토리지, 네트워크를 통합하는 하드웨어에 소프트웨어 스택과 전문 서비스를 결합하는 ‘골든 트라이앵글’ 전략으로 AI 인프라 구축부터 운영과 최적화까지 지원하겠다”고 밝혔다.
에이수스는 대규모 데이터센터뿐 아니라 실제 데이터가 생성되는 현장에서 AI를 처리하는 엣지 컴퓨팅 전략도 공개했다.
엣지 컴퓨팅은 네트워크를 통해 전송해야 하는 데이터량을 줄일 수 있고, 처리 지연시간을 낮춰 실시간 대응이 필요한 산업 현장에 적합하다. 외부로 전송되는 데이터를 줄여 보안성과 운영 효율을 높일 수 있다는 점도 장점이다.
에이수스는 이날 제조 현장의 머신비전이나 자동차의 영상·센서 데이터를 현장에서 즉시 처리할 수 있는 엣지 컴퓨팅 솔루션도 함께 공개했다.
에이수스코리아 관계자는 “데이터센터에서는 토큰당 비용 절감과 전력 효율 향상, 서버에서 냉각과 연결성 개선, 엣지 엔드포인트 강화로 AI 인프라 전반을 최적화할 것”이라고 밝혔다.