[지디넷코리아]
오픈AI가 미국 국방부와 체결한 기밀 인공지능(AI) 계약에 다층 안전장치를 추가했다. 군사 영역에 AI 오남용 가능성을 사전에 차단하려는 조치다.
1일(현지시간) CNBC 등 외신에 따르면 오픈AI는 최근 미 펜타곤과 맺은 계약에 이같은 추가 보호 조항을 담았다고 발표했다.
같은 날 도널드 트럼프 미국 대통령은 정부에 앤트로픽 협력을 중단하라고 지시했다. 펜타곤은 앤트로픽을 공급망 위험 기업으로 지정하겠다고 밝혔다. 이에 앤트로픽은 위험 기업 지정이 이뤄질 경우 법적인 조치를 진행하겠다는 입장을 발표했다.
오픈AI는 “미국 정부와 맺은 계약은 앤트로픽을 포함한 어떤 기밀 AI 배치 계약보다 더 많은 가드레일을 갖췄다”며 “기밀 환경에서 가장 강력한 AI 안전장치를 적용했다”고 공식 홈페이지를 통해 주장했다.
오픈AI가 적용한 AI 안전 가드레일은 세 가지 축으로 이뤄졌다. 우선 오픈AI 기술은 대규모 감시에 활용할 수 없으며, 자율 무기 체계를 지휘하는 데 적용될 수 없다. 고위험 자동화 의사결정에도 해당 기술이 사용될 수 없다.
외사는 가이드라인을 실제 운용에 반영하기 위해 다층적 접근을 적용했다고 밝혔다. ‘세이프티 스택’에 대한 전적인 재량을 유지하고 클라우드를 통해 기술을 배치한다고 설명했다. 또 보안 인가를 받은 오픈AI 인력이 운영 과정에 직접 개입하는 구조를 둔다고 알렸다.
펜타곤은 지난 1년간 앤트로픽과 오픈AI 구글 등 주요 AI 연구소와 각각 최대 2억 달러 규모 계약을 체결했다. 국방부는 방위 분야에서 유연성을 최대 확보하려는 입장이다. 신뢰할 수 없는 AI로 무기를 구동하는 것에 대한 기술 기업 경고에도 제한받지 않겠다는 기조를 유지하고 있다.
오픈AI는 미 정부가 계약을 위반할 경우 계약 종료가 즉각 이뤄질 수 있다고 밝혔다. 또 앤트로픽을 공급망 위험으로 낙인찍어서는 안 된다고 주장했다.