과학

LGU+, AI 토큰 처리량 4배 높였다…GPU·전력 효율화

[지디넷코리아] LG유플러스가 같은 GPU에서 AI가 처리할 수 있는 토큰량을 최대 4배까지 높이는 기술을 개발했다. AI 서비스 확대로 GPU와 전력 비용이 늘어나는 가운데 모델 성능을 유지하면서 인프라 운영비를 줄이는 […]