[서울=뉴시스]심지혜 기자 = 과학기술정보통신부가 내년 인공지능(AI) 성능과 인프라에 6조원 넘게 투자하는 반면 AI 안전과 신뢰 분야 예산은 274억원에 그친 것으로 나타났다. 두 분야의 예산 격차는 224대1이다.
6일 국회 과학기술정보방송통신위원회 소속 이주희 더불어민주당 의원이 과기정통부로부터 제출받은 자료에 따르면 2027년도 과기정통부 소관 AI 예산 정부안은 9조4308억원이다. 이 가운데 모델 개발, 그래픽처리장치(GPU) 등 컴퓨팅, 데이터 구축을 포함한 성능·인프라 예산은 6조1490억원으로 전체의 65.2%를 차지했다.
이에 반해 안전성 평가·검증, 레드팀, 딥페이크 대응, 윤리·영향평가 등을 포함한 안전·신뢰 예산은 274억원으로 전체의 0.3%였다.
연도별로 보면 격차는 더 커졌다. 2023년에는 안전·신뢰로 분류된 예산이 없었고, 2024년 성능·인프라와 안전·신뢰 예산 비율은 36대1이었다. 2027년 정부안에서는 224대1로 벌어졌다.
증가 폭 차이도 상당했다. 성능·인프라 예산은 올해보다 116% 늘었지만 안전·신뢰 예산 증가율은 36%였다. GPU 서버 확충 사업 하나에 편성된 3조8500억원은 안전·신뢰 예산 전체의 약 140배다.
내년 안전·신뢰 예산 274억원은 AI 안전 기술개발 R&D 152억원, 안전한 AI 활용 기반 조성 101억원, AI 신뢰성 및 산업 생태계 기반 조성 21억원 등 3개 사업으로 구성됐다.
이 가운데 안전한 AI 활용 기반 조성과 AI 신뢰성 및 산업 생태계 기반 조성은 올해와 금액이 같다.
해킹 등 외부 공격을 막는 AI 보안과 달리 AI 안전은 AI가 통제를 벗어나는 위험 등에 대비하는 영역이다. AI 보안 예산 2064억원까지 모두 더해도 전체 AI 예산의 2.5% 수준이다.
이번 분류는 의원실이 제시한 기능별 기준에 따라 과기정통부가 세부 사업을 직접 분류해 제출한 것이다.
국제사회에서도 AI 안전 투자 확대 필요성이 제기되고 있다. 유발 하라리는 최근 AI 기업들이 성능 고도화에 쓰는 비용과 안전 투자 간 격차가 100대1 수준이라고 지적했다. 요슈아 벤지오와 제프리 힌턴, 하라리 등은 2024년 공동 논문에서 주요 기술기업과 공공 재정 주체가 AI 연구개발 예산의 최소 3분의1을 안전에 배정해야 한다고 권고했다.
최근에는 고성능 AI의 통제 가능성을 둘러싼 우려도 이어지고 있다. 벤지오는 지난 9월 유엔 안전보장이사회 AI 고위급 회의에서 AI 위험에 대한 국제 공조 필요성을 제기했다.
이주희 의원은 “AI 3대 강국은 반드시 가야 할 길이지만, 브레이크 없는 가속은 경쟁력이 아니라 위험”이라며 “안전 예산을 AI 예산의 최소 1%로 끌어올리고, 해외 고성능 모델을 우리 손으로 검증할 역량을 갖추고, AI 안전 국제 논의를 이끌어 온 나라답게 국제 안전 공조에 앞장서야 한다”고 강조했다.
◎공감언론 뉴시스 siming@newsis.com