[지디넷코리아]
인공지능(AI)을 활용한 사이버 공격 우려가 현실화되면서 보안업계 경계 수위도 높아지고 있다. 과거에는 AI가 해커의 공격을 돕는 도구로 활용됐다면 최근 AI 모델 스스로 취약점을 찾아내고 공격에 필요한 작업을 수행할 수 있다는 점이 새로운 위협으로 떠올랐다. 우리 정부도 고도화하는 AI발 사이버 위협에 대응하기 위한 독자적인 보안 AI 확보에 나섰다.
26일 업계에 따르면 이날 오후 마감된 ‘사이버 보안 특화 AI 파운데이션 모델 개발 사업’에 SK텔레콤과 네이버클라우드 등 총 2개의 컨소시엄 제안이 접수됐다. 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 추진하는 이번 사업은 국내 AI·사이버 보안 역량을 결집해 보안 분야에 특화된 독자 AI 파운데이션 모델을 개발하는 것을 목표로 한다.
과기정통부는 다음 달 초 1개 팀을 선정할 계획이다. 최종 선발된 팀에는 B200 그래픽처리장치(GPU) 256장(32노드)을 10개월간 지원한다. 5개월 뒤에는 중간 성과 모델을 공개하고 성과를 점검해 지속 지원 여부를 결정한다. 개발된 모델은 오픈소스를 지향하며 국내 보안 생태계 전반에 확산한다는 계획이다.
이번 사업의 배경에는 빠르게 고도화하는 AI의 사이버 공격 역량이 자리한다. 대표적인 사례가 앤트로픽이 지난 4월 공개한 ‘클로드 미토스 프리뷰’다. 미토스는 사이버 보안 작업 과정에서 소프트웨어 취약점을 찾아내고 이를 공격에 활용할 수 있는 코드를 만들어내는 능력으로 업계 주목을 받았다.
미토스 등장 이후에는 AI 모델의 공격 역량뿐 아니라 이를 통제하는 것 자체도 새로운 보안 과제로 떠올랐다. 오픈AI는 지난달 사이버보안 평가 과정에서 자사 모델이 제로데이 취약점을 이용해 외부 인터넷과 허깅페이스 인프라에 접근한 사례를 공개했다. 앤트로픽과 메타 역시 평가 환경의 격리·설정 문제 등으로 각 사 모델이 실제 외부 시스템에 접근하거나 취약점을 악용한 사례가 잇따라 확인됐다.
한국 정부의 대응도 올해 상반기 들어 구체화됐다. 과기정통부는 지난 5월 미토스 등 고성능 AI를 활용한 사이버 위협에 대응하기 위한 ‘AI 기반 사이버 위협에 대응하기 위한 민간 정보보호 추진계획’을 발표했다. 해당 계획에는 AI가 찾아낸 취약점을 신속하게 공유·조치할 수 있는 민관 합동 대응 체계를 구축하겠다는 내용 등이 담겼다.
업계에서도 AI를 방어 수단으로 활용하려는 움직임이 활발해졌다. 앤트로픽은 지난 4월 미토스 프리뷰를 공개한 데 이어 이를 활용해 주요 소프트웨어 취약점을 선제적으로 찾아내는 프로젝트를 가동했다.
프로젝트 글래스윙은 고성능 AI를 방어 목적으로 활용해 공격자가 악용하기 전 취약점을 찾아내는 프로젝트로, 전 세계 기업과 기관이 최신 AI를 사이버 방어에 적용해 볼 수 있는 기회가 됐다. 국내에서는 삼성전자·SK하이닉스·SK텔레콤·한국인터넷진흥원(KISA) 등이 참여했다.
하지만 해외 AI를 활용한 보안 대응 역시 해당 모델에 대한 접근권을 전제로 한다는 한계가 드러났다. 미국 정부가 국가안보를 이유로 지난 6월 앤트로픽 최신 모델에 대한 외국 국적자의 접근을 제한하면서 국내 기업 및 기관들의 글래스윙 참여에도 제동이 걸렸다.
당시 앤트로픽은 이용자 국적을 실시간으로 확인하기 어려운 점을 고려해 클로드 미토스 프리뷰의 정식판인 ‘클로드 미토스5’와 일반 이용자용 ‘클로드 페이블5’의 서비스를 모두 일시 중단했다. 이후 18일 만인 6월 30일부로 두 모델의 수출통제가 해제됐다.
정부가 사이버 보안 특화 독자 AI 모델 개발 필요성을 공식적으로 강조한 것도 이 시점 이후다. 고도화된 AI가 사이버 공격에 활용될 가능성이 커지는 상황에서 외산 모델에 의존하지 않고 국내 환경에 맞는 보안 AI를 직접 확보하겠다는 의지를 나타낸 셈이다.
배경훈 과기정통부 부총리 겸 장관은 지난달 대통령 주재 업무보고에서 “우리나라도 독자 AI 모델을 보유하고 있지만 그 수준으로는 대응이 어렵다”며 “기존 독자 모델에 보안 데이터를 추가 학습해 연내 보안 특화 모델을 개발하겠다”고 밝혔다.
또 “미토스 같은 고도화된 프론티어 모델이 보안만을 겨냥한 모델이 아님에도 보안 문제를 쉽게 풀 수 있게 된 것”이라며 “고도화된 프론티어 모델 개발에 대한 고민이 필요하다”고 강조했다.
이재명 대통령도 미국의 AI 수출 통제를 둘러싼 불확실성을 두고 “막힌다고 보고 대비해야 한다”며 “다른 나라가 우리 보안을 대신 지켜주다가 갑자기 문을 열어버리는 상황이 생기면 안 된다”고 지적했다.