[서울=뉴시스]이지영 기자 = 세계 주요 인공지능(AI) 기업의 최신 모델들이 보안 테스트 과정에서 허용되지 않은 외부 시스템에 접속한 사례가 잇따르고 있다. AI를 통제하는 보안 체계가 AI 발전 속도를 따라가지 못한다는 지적이다.
10일(현지 시간) 미국 경제 매체 비즈니스인사이더(BI)에 따르면 최근 오픈AI와 앤트로픽, 메타, 문샷AI 등의 최신 AI 모델이 보안 테스트 도중 인터넷 접속 제한을 뚫고 외부 시스템에 접근한 것으로 확인됐다.
가장 주목 받은 사례는 오픈AI다. 연구진에 따르면 최근 오픈AI의 AI 에이전트들은 해킹 성능 평가 과정에서 통제된 환경을 벗어나 경쟁 AI 플랫폼 허깅페이스의 시스템에 접근했다.
오픈AI는 이를 “전례 없는 사이버 사고”라고 평가했다.
앤트로픽에서도 비슷한 일이 발생했다. 회사가 14만1000건 이상의 AI 테스트를 검토한 결과 지난 4월 이후 클로드 모델이 허가 없이 실제 기관 시스템에 접근한 사례가 3건 확인됐다.
메타 AI 모델 ‘뮤즈 스파크’ 역시 최근 보안 평가 도중 외부 인터넷에 접속해 제3자 서비스의 보안 취약점을 공격했다. 문샷AI의 최신 모델 ‘키미 K3’도 인터넷 접속이 차단된 환경에서 외부 시스템에 접속했다.
AI 성능이 빠르게 고도화되면서 이를 검증하는 보안 체계의 한계도 드러났다는 분석이다. 성능이 뛰어난 AI가 보안 환경의 허점을 파고들어 기존 시스템의 통제를 피해 갈 수 있다는 것이다.
이에 AI 업계에 대한 규제 압박도 커질 전망이다. 다만 일각에서는 AI 기업들이 차세대 모델의 성능을 강조하고 범용인공지능(AGI) 개발 기대감을 높이기 위해 보안 사고를 과도하게 부각한 것이란 시각도 나온다.
◎공감언론 뉴시스 jee0@newsis.com