[서울=뉴시스] 김승민 기자 = 찰스 3세 영국 국왕이 “인공지능(AI) 기술이 잘못된 사람들의 손에 들어가 재앙적인 방식으로 쓰일 때 발생할 수 있는 실존적 위험을 시급하게 고려해야 한다”고 밝혔다.
BBC, CNN 등에 따르면 찰스 3세는 17일(현지 시간) 스코틀랜드 에어셔에서 열린 AI 경영자 및 정부 관계자 초청 회의에서 “AI 발전은 매우 흥미로운 동시에 깊은 우려를 불러일으킨다”며 이같이 말했다.
찰스 3세는 AI가 의료 분야 등에서 막대한 잠재력을 보이고 있다면서도 “AI 발전은 매우 흥미로운 동시에 깊은 우려를 불러일으킨다”고 운을 뗐다.
그는 이어 “이 기술을 만들어낸 개발자들은 이제 AI가 점점 더 어두운 능력을 갖게 될 위험을 경고하고 있다. 어쩌면 생명을 빼앗는 능력까지 갖게 될 수 있다”고 우려했다.
찰스 3세는 “인간성은 신성한 것으로 남아 있어야 한다”며 “인간성과 도덕을 중시하는 세계인들은 우리가 운명과 영혼에 대한 통제력을 잃지 않을 것이라는 확신을 간절히 바라고 있다”고 강조했다.
그러면서 “여러분의 과제는 단순한 기술 발전이 아니라 기술이 인류와 공동체, 자연을 위해 확실하게 봉사하도록 하는 것”이라며 “AI를 선한 목적을 위해 활용할 수 있는 방법을 논의해달라”고 덧붙였다.
찰스 3세는 모두발언을 포함해 약 20분간 회의장에 머무르다가 이석했는데, CNN은 이에 대해 “왕실은 헌법상 정치로부터 초월해야 하기 때문에, 문제를 부각할 수는 있지만 해결 방법까지 제시할 수는 없다”고 설명했다.
이날 회의에는 젠슨 황 엔비디아 최고경영자(CEO), 데미스 허사비스 구글 딥마인드 의장, 파올로 베난티 교황청 AI자문관, 카니슈카 나라얀 영국 AI장관 등이 참석했다.
AI 빅테크 주요 인사들은 AI 안전 통제에 다소 낙관적 발언을 내놨다.
황 CEO는 “안전이 가장 중요하다. 제품이 충분히 안전하지 않다면 출시를 보류하고 계속 개발(keep engineering)해야 한다”고 말했다.
그는 이어 “책임 있는 낙관을 바탕으로 안전하고 확실한 AI를 구축하고, 더 많은 사람들이 활용할 수 있도록 개방하며, 우리의 야망을 넓혀 세상의 주요 문제들을 해결해나가자”고 했다.
허사비스 의장은 “여러 분야에서 인간과 비슷하거나 인간보다 뛰어날 것으로 여겨지는 시스템이 불과 몇 년밖에 남지 않았다. 뭔가가 잘못될 가능성은 분명히 0이 아니다”라고 진단했다.
그는 다만 “합리적인 중간 지점을 찾아야 한다”며 “인류가 위험 완화를 위해 충분한 시간과 여유를 공동으로 투자한다면 위험에 대응할 수 있다. 미래는 아직 쓰이지 않았다”고 강조했다.
AI 안전성 논쟁은 최근 앤트로픽 연구원 제이컵 콕슨이 AI가 2030년까지 인류를 멸망시킬 수 있다고 경고하며 퇴사하면서 확산했다.
이에 다리오 아모데이 앤트로픽 CEO는 지난 12일 제3자 안전성 평가와 글로벌 안전 기준 마련, 통제되지 않는 AI 발전 속도 제한 등을 담은 ‘3단계 속도조절론’을 제안했다. 샘 올트먼 오픈AI CEO, 일론 머스크 스페이스X CEO 등도 힘을 실었다.
그러나 도널드 트럼프 미국 대통령은 이를 미국 기술 진보를 막고 중국 산업 발전을 돕기 위한 ‘사기(hoax)’라고 표현하며 강하게 반발했다. 황 CEO 등 AI 빅테크 일각에서도 속도조절론에 반대하는 목소리를 내고 있다.
◎공감언론 뉴시스 ksm@newsis.com