[지디넷코리아]
지난 8월 30일, 청와대가 국가 AI 정책 라인업을 다시 짰다. 하정우 초대 AI미래기획수석이 국가AI전략위원회 부위원장으로 복귀했고, 구글 엔지니어 출신으로 AI기본법을 주도했던 이해민 의원이 새 AI수석에 임명됐다. AI 3대 강국, 이른바 G3를 향한 컨트롤타워가 다시 진용을 갖춘 것이다. 이미 역량이 검증된 인사들이기에 기대가 크다. 하지만, 무조건 환영하기에 앞서 짚어야 할 것이 있다.
지난 몇 달간 우리는 컨트롤타워 공백을 겪었다. 핵심 인사들이 정치권으로 자리를 옮기며 부위원장과 수석 자리가 동시에 비었고, 부총리 겸임이라는 임시 체제로 버텨왔다. 문제는 그 몇 달이 하필 세계 AI 산업이 가장 빠르게 방향을 트는 시기였다는 점이다. 챗봇에서 에이전트로, 모델 단품 경쟁에서 생태계 경쟁으로 판이 통째로 바뀌는 동안 우리의 전략 문서들은 이전 시대의 전제 위에 멈춰 서 있었다.
미국과 중국이 각자의 방식으로 AI 생태계 블록을 확장하며 다른 나라들을 자기 스택 위에 올려 세우는 동안, 우리는 컨트롤타워 없이 그 국면을 통과했다. 이 공백의 비용은 앞으로의 속도로만 갚을 수 있다. 반성은 짧게, 실행은 빠르게 해야 한다. 새 컨트롤타워 앞에 놓인 과제는 무엇일까.
지금까지의 AI 정책은 상당수가 사람이 묻고 AI가 답하는 챗봇 시대의 문법 위에 서 있다. 그러나 산업의 무게중심은 이미 에이전트로 넘어갔다. AI가 스스로 계획을 세우고, 도구를 호출하고, 다른 에이전트와 협업하며, 여러 단계를 거쳐 작업을 완결하는 시대다. 사람은 목표를 주고 결과를 검수하는 위치로 이동한다. 글로벌 기업들은 이미 코딩과 리서치, 고객 응대의 상당 부분을 에이전트에게 위임하며 실전 배치 단계에 들어섰다.
행정도 예외가 아니다. 민원 처리, 정책 자료 분석, 인허가 검토처럼 절차와 문서로 이뤄진 업무일수록 에이전트가 파고들 여지가 크고, 국민이 체감하는 정부 서비스의 품질은 여기서 갈린다.
이러한 전환은 정책 전 영역의 설계에 대한 재고민을 요구한다. 조달은 소프트웨어 라이선스 개수 기반에서 에이전트가 완결한 작업 단위 계약으로 옮겨가야 하고, 보안은 사람 계정 중심에서 에이전트 신원과 권한을 관리하는 체계로 확장돼야 하며, 감사는 절차 준수 점검에서 에이전트 행동 로그 검증으로 진화해야 한다. 이제 모든 정책에 “에이전트가 주 사용자라면 이 설계가 유효한가”라는 질문을 던져야 한다.
데이터가 대표적이다. 최근 공공데이터포털이 새 단장을 하고 문을 열었다. 반가운 일이지만, 여전히 사람이 검색창에 키워드를 치고, 목록을 훑고, 하나하나 활용신청을 하거나, 파일을 내려받아 가공하는 구조다. 에이전트 시대의 데이터 수요자는 사람만이 아니다. 창업을 준비하는 시민이 에이전트에게 상권 분석을 맡기면, 에이전트가 인허가 정보와 유동인구 통계, 상권 데이터를 직접 호출해 조합하고 보고서까지 완성하는 흐름이 표준이 된다. 이때 데이터가 사람용 화면 뒤에 갇혀 있으면 에이전트는 그 앞에서 멈춘다.
공공데이터는 AI 에이전트가 직접 접속해 데이터의 의미와 맥락을 이해하고, 필요한 것을 조합해 바로 쓰는 방향으로 재설계해야 한다. 사람이 읽을 수 있는 데이터를 넘어 기계가 이해할 수 있는 데이터로, 한 번 호출하고 끊기는 방식을 넘어 작업의 맥락과 상태가 이어지는 방식으로, 그리고 민감 데이터는 로컬과 클라우드를 결합한 하이브리드 구조로 가야 한다.
수천 개의 API를 낱개로 열어두는 것보다, 에이전트가 표준화된 방식으로 공공데이터 전체에 접근하는 단일 관문을 정비하는 편이 활용도를 훨씬 크게 끌어올릴 것이다. 성과지표도 ‘개방 건수’에서 ‘에이전트가 실제로 호출해 완결한 작업 수’로 옮겨야 한다.
경쟁의 단위도 다시 정의해야 한다. 프런티어 모델들의 성능은 빠르게 상향평준화되고 있다. 벤치마크 몇 점 차이는 현장에서 체감되지 않는다. 승부처는 모델 그 자체보다 모델을 둘러싼 층위, 즉 도구와 에이전트, 이들을 묶어 운용하는 작업 틀(하네스)과 여러 모델을 조합 및 지휘하는 오케스트레이션이다. 이미 생태계는 이런 쪽으로 옮겨갔다.
같은 모델이라도 어떤 서빙 레이어 위에서 어떤 도구와 결합해 어떤 루프를 도느냐에 따라 성능과 비용이 몇 배씩 갈린다. 오픈웨이트 모델의 가중치를 내려받는 것과 그것을 고품질 서비스로 운용하는 것 사이에는 거대한 간극이 있고, 그 간극을 메우는 것이 바로 서빙 레이어의 엔지니어링 역량이다. 중국이 개방 가중치를 앞세워 세계 개발자들을 자국 생태계로 끌어들이는 전략도 결국 이 층위를 겨냥한다. 가중치는 공짜로 풀어도 도구와 프레임워크, 운용 노하우에 종속시키면 생태계 전체가 넘어간다는 계산이다. 국산 모델 개발 지원이 단일 모델의 순위표 성적에 머물러있으면 안되는 이유다.
모델과 함께 서빙 최적화, 에이전트 프레임워크, 평가·환류 체계까지 하나의 스택으로 키우는 생태계 전략이 필요하다. 특히 한국어 토큰 효율은 성능만큼 중요한 국가 자산이다. 같은 작업을 절반의 토큰으로 처리하는 모델이 에이전트 시대의 진짜 경쟁력이다. 국가 평가체계의 핵심성과지표(KPI)는 성능이 아니라 ‘성능 나누기 토큰’이 돼야 한다.
생태계 경쟁의 다음 격전지는 월드모델이다. 언어를 넘어 물리 세계의 인과를 학습한 모델은 로봇, 자율주행, 제조 시뮬레이션 등 피지컬 AI의 기반이 된다. 글로벌 빅테크는 이미 월드모델을 제품과 플랫폼 단계로 끌어올리며 표준 선점에 나섰다.
반면 우리는 여전히 연구개발 과제 수준에 머물러 있다. 한국은 제조 강국으로서 정밀 공정, 로봇 운용, 물류 현장에서 나오는 물리 세계의 원본 데이터를 세계 어느 나라보다 풍부하게 갖고 있다. 이 자산을 월드모델 역량으로 빠르게 전환하지 못하면, 언어모델에서 겪은 추격전을 몇 년 뒤 더 불리한 조건에서 반복해야 한다. 26만장의 GPU를 가져왔다고 환호했지만, 그 GPU 들은 엔비디아의 월드모델 코스모스와 디지털트윈 옴니버스와 함께 삼성전자, 현대차 등 우리 대기업으로 가고 있다.
산발적 과제 지원을 넘어 제조 현장의 데이터 수집 표준, 시뮬레이션 인프라, 로봇 실증 단지를 하나의 파이프라인으로 묶는 국가 프로젝트가 필요하다. 컨트롤타워가 지금 우선순위와 투자 순서를 정해줘야 할 영역이다.
에이전트는 사람보다 압도적으로 많은 토큰을 쓴다. 하나의 작업을 위해 수십 번의 추론과 도구 호출이 루프를 돌고, 멀티 에이전트가 보편화되면 토큰 사용량은 사람이 직접 대화하던 시대의 수십, 수백 배로 뛴다. 토큰은 곧 연산이고, 연산은 곧 전력이며, 그 토큰을 해외 모델에 의존하면 곧 무역수지 문제가 된다. 이 폭증을 데이터센터 증설만으로 받아내겠다는 계산은 전력 계통과 재정이 감당할 수 없다.
발상을 바꾸면 답이 보인다. 서빙 최적화, 모델 오케스트레이션, 한국어 토큰 효율화로 같은 작업을 절반의 토큰으로 처리하게 만들면, 기가와트급 데이터센터를 계획하는 나라에서 기가와트 단위의 전력 수요를 지우는 일이 될 수 있다.
원전 한 기의 설비용량이 1.4기가와트임을 떠올리면, 제대로된 토큰 최적화는 사실상 발전소 한 곳을 새로 짓는 효과를 가져올 수 있다. 소프트웨어 최적화가 곧 에너지 정책인 시대다. 인프라 건설과 소프트웨어 최적화를 같은 테이블에 올려, 기가와트와 토큰을 함께 계산하는 국가 전략이 나와야 한다.
국산 NPU도 같은 맥락에 있다. 반도체는 워크로드 위에서 성숙한다. 많이 돌려보고, 깨지고, 고쳐야 컴파일러와 소프트웨어 스택이 여물고 생태계가 붙는다. 문제는 초기 수요다. 검증되지 않은 칩을 민간이 먼저 대규모로 채택하기는 어렵고, 채택이 없으면 검증의 기회도 없는 악순환에 갇힌다.
여기서 공공의 역할이 나온다. 공공 AI 인프라와 행정 에이전트 워크로드가 국산 NPU의 첫 수요자이자 테스트베드가 되어 실전 데이터를 축적하고 레퍼런스를 만들어주는 것이다. 조달 규격에 국산 NPU 실증 트랙을 명시하고, 그 운용 데이터를 개발사에 환류하는 구조까지 설계하면 공공 수요가 곧 산업 육성이 된다. 나아가 국산 NPU 위에서 한국어 모델과 서빙 레이어를 함께 최적화하는 결합 전략까지 가면, 칩과 모델과 서비스가 서로를 끌어올리는 선순환이 시작된다. 특정 해외 칩 위에 특정 해외 모델을 얹는 방식으로는 결코 만들 수 없는 우리만의 스택이다.
무엇을 시킬지 분해하고, 결과의 오류를 잡아내고, 다시 지시하는 사람과 첫 답변을 복사해 쓰는 사람 사이의 생산성 격차는 같은 도구를 쥐고도 몇 배로 벌어진다. 그 격차는 결국 소득 격차로 이어진다. 공무원 교육, 학교 교육, 직업 훈련의 커리큘럼에 계정 보급과 함께 질문법과 비판적 검증법을 가르치는 국가 단위의 역량 프로그램을 병행해야 ‘모두의 AI’가 구호에 그치지 않고 국민총지능의 실질적 상승으로 이어질 것이다.
위 과제들에는 공통점이 있다. 데이터는 행정, 반도체는 산업, 전력은 에너지, 역량은 교육 소관으로, 하나같이 여러 부처에 걸쳐 있어 부처 단위로는 풀리지 않는다는 점이다. 컨트롤타워가 존재하는 이유가 바로 여기에 있다. 부처별 사업 목록을 취합하는 조정자가 아니라, 에이전트 시대라는 하나의 전제 아래 우선순위를 정하고 국가 단위의 성과지표를 다시 쓰는 설계자가 돼야 한다.
새 컨트롤타워의 성패는 방향 설정보다 실행 속도에서 갈릴 것이다. 에이전트 전환은 기다려주지 않고, 생태계 고착(락인)은 한번 걸리면 되돌리기 어렵다. 공백의 몇 달을 만회하려면 완벽한 계획을 기다릴 여유가 없다. 빠르게 실행하고 빠르게 수정하는 수밖에 없다.
다행히 새 진용은 현장에서 검증된 전문성과 입법 경험 등을 두루 갖췄다. 배경훈 부총리, 하정우 부위원장, 이해민 수석이 함께 관료적 시간표가 아닌 산업의 시간표로 움직이기를 정말 기대한다.
AI G3는 단순히 선언으로 도달하는 자리가 아니다. 그동안은 주로 선언이었다면, 이제는 구체적인 실행의 시간이다. 에이전트가 쓰는 데이터, 서빙 레이어와 월드모델까지 아우르는 생태계, 토큰과 전력을 함께 계산하는 인프라, 공공 워크로드 위에서 여무는 국산 반도체, 그리고 질문할 줄 아는 국민. 이 축적된 실행만이 우리를 진짜 AI G3 자리에 데려다줄 것이다.