[지디넷코리아]
미국 정부와 오픈AI가 인공지능(AI) 규제 방식을 두고 엇갈린 구상을 내놨다.
트럼프 행정부가 국가안보국(NSA) 중심 자율 협력형 안보 평가 체계를 제시한 반면, 오픈AI는 CAISI 중심의 사전 의무 평가 체계를 촉구했다. 양측 모두 허가제에는 반대했지만 위험 판단 주체와 평가 방식에서는 뚜렷한 차이를 보였다.
5일 트럼프 행정부는 ‘첨단 AI 혁신 및 안보 촉진 행정명령’을 오픈AI는 ‘프런티어 AI의 민주적 거버넌스: 연방 프레임워크를 위한 청사진’ 백서를 각각 공개했다.
두 문서는 모두 첨단 AI가 국가안보와 경제에 미치는 영향이 크다는 점에는 공감하지만 이를 누가 평가하고 어떤 방식으로 관리할지를 두고는 다른 해법을 내놨다.
트럼프 행정부 행정명령의 핵심은 미국의 AI 혁신을 해치지 않으면서 안보 위협에 대응하겠다는 것이다. 백악관은 이전 정부의 과도한 관료 규제가 미국 AI 경쟁력을 떨어뜨렸다고 보고 NSA와 사이버보안 및 인프라 보안국(CISA) 등을 중심으로 고성능 AI 모델의 사이버 역량을 평가하는 체계를 구축하도록 했다.
특히 어떤 모델을 규제 대상인 프런티어 모델로 볼지 판단하는 비공개 벤치마킹 절차에서 NSA가 핵심 역할을 맡는다.
다만 행정명령은 정부의 강제 허가제에는 선을 그었다. 새 AI 모델의 개발과 배포를 위한 의무적 라이선스나 사전 승인 제도를 만들지 않는다고 명시했다.
대신 개발사가 출시 전 최대 30일 동안 정부에 먼저 접근 권한을 제공하고 정보를 공유하는 자발적 프레임워크를 마련하는 데 초점을 맞췄다. AI 산업을 직접 통제하기보다 정부와 기업이 협력해 국가 시스템과 핵심 인프라의 사이버 방어 역량을 높이겠다는 구상이다.
반면 오픈AI는 최상위 프런티어 AI 모델에 대해서는 평가를 의무화해야 한다고 주장했다. AI 관련 위험은 기업의 자율적 약속만으로는 충분히 관리하기 어렵다고 보고 고위험 모델에 한해 공개 전 안전성 평가와 위험 완화 절차를 의무화해야 한다는 입장이다.
다만 오픈AI 역시 정부의 허가제에는 반대한다. 평가와 위험 완화 권고는 의무화하되 출시 승인이나 차단 권한까지 정부가 가져서는 안 된다고 본다.
오픈AI는 이를 위한 평가기관으로 상무부 산하 인공지능표준혁신센터(CAISI)를 미국의 핵심 프런티어 AI 평가기관으로 육성해야 한다고 주장했다. 오픈AI가 제안한 CAISI는 단순 연구 조직을 넘어 첨단 모델의 안전성 평가와 테스트 기준 마련, 독립 평가기관 인증, 정부와 국제 파트너 간 조정 기능까지 맡는 상설 허브에 가깝다.
오픈AI가 문제 삼은 것은 규제 기준의 모호함이다. 행정명령은 고급 사이버 역량을 기준으로 규제 대상 모델의 임계값을 설정하도록 했지만, NSA 등이 기준을 비공개로 운영할 경우 기업 입장에서는 어느 시점부터 정부의 추가 검토 대상이 되는지 예측하기 어렵다는 것이다.
오픈AI는 이 같은 불확실성을 줄이기 위해 기술기관 중심의 표준화된 평가 체계가 필요하다고 보고 있다.
백서의 범위도 행정명령보다 넓다. 트럼프 행정부 문서가 국가 시스템 보호와 AI 기반 사이버 방어 강화에 초점을 맞췄다면, 오픈AI는 독립 감사, 투명성 보고, 중대한 사고 보고 의무, 모델 가중치 보안, 내부고발자 보호 등 보다 포괄적인 연방 차원의 AI 안전 프레임워크를 제시했다. 특히 AI가 AI 개발 자체를 가속하는 재귀적 자기개선(RSI)을 장기 거버넌스의 핵심 위험으로 지목하며, 정부가 이를 지속적으로 추적할 체계까지 마련해야 한다고 주장했다.
오픈AI는 이러한 평가와 감독 기능이 정보기관보다 기술·표준 기관에 있을 때 평가 기준이 더 투명하고 예측 가능해질 수 있다고 강조했다.
트럼프 행정부는 “과거의 불도저식 규제로 미국의 AI 혁신을 질식시키는 것을 거부한다”며 “낡은 규제를 철폐해 기술 성장을 해방하고 글로벌 AI 패권을 굳건히 지켜낼 것”이라고 강조했다.
반면 오픈AI는 “AI가 전 인류에게 혜택을 주려면 기업의 자발적 약속만으로는 턱없이 부족하다”며 “미국 정부는 가장 심각한 위험을 방어하고 기술 발전에 맞춰 진화할 수 있는 강력한 연방 제도와 의무적인 법적 틀을 구축해야 한다”고 주장했다.