앤트로픽 CEO “AI, 인간 통제 아래 있도록 속도 조절”

[서울=뉴시스] 신효령 기자 = 인공지능(AI) 챗봇 ‘클로드’ 개발사 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 나스닥 상장식에서 AI의 안전성을 확인할 때까지 모델 학습과 출시 속도를 조절하겠다고 밝혔다. 안전 원칙을 지키면서도 기업을 성장시킬 수 있다는 점을 보여주겠다고 했다.

19일(현지 시간) 미국 정보기술(IT) 전문매체 테크크런치에 따르면 아모데이 CEO는 이날 뉴욕 타임스스퀘어의 나스닥 마켓사이트에서 개장 타종을 앞두고 연설했다.

그는 AI가 안전하고 계속 인간의 통제 아래 있을 것이라고 확신할 때까지 필요한 시간을 들이겠다고 말했다. 이어 “사업적 압력이나 정치적 압력에 굴복하지 않겠다”고 밝혔다.

아모데이 CEO는 아버지가 병으로 세상을 떠난 뒤 불과 몇 년 만에 그 병을 치료할 수 있게 됐다고 회고했다. 그는 치료법을 더 빨리 찾는 데 보탬이 되고 싶어 생물학 연구를 시작했다. 연구실에서 질병의 원인을 밝히고 치료법을 개발하는 일이 얼마나 복잡한지 체감했다며 AI가 이 과정을 앞당길 수 있다고 봤다.

그는 AI 개발 기업의 선택에 따라 기술의 위험을 줄일 수 있다고 강조했다. 모델이 어떻게 작동하고 어떤 방식으로 답을 내놓는지 살피는 연구도 그 방법 중 하나로 꼽았다. 아모데이 CEO는 “가장 어려운 안전 검증 작업은 앞으로 남아 있다”며 고성능 모델을 개발해 온 인력을 안전성 검증에 더 많이 투입해야 한다고 말했다.

그는 상장으로 재무 기반이 강화되면서 안전 원칙을 지키겠다는 의지도 더 굳어졌다고 밝혔다. 안전을 중시하면서도 기업이 성장할 수 있음을 보여주면 경쟁사도 같은 길을 택할 수 있다는 설명이다. 그는 기업들이 서로 더 높은 안전 기준을 적용하도록 이끄는 경쟁을 ‘레이스 투 더 톱(race to the top)’이라고 불렀다. 앤트로픽의 경쟁 순위와 관계없이 업계 전체의 안전 수준을 높이는 게 목표라고 했다.

공동창업자이자 아모데이 CEO의 동생인 다니엘라 아모데이 사장도 이날 CNBC 인터뷰에서 AI의 잠재력과 위험을 함께 언급했다. 그는 AI의 위험을 줄이는 것이 회사의 역할이라고 설명했다.

다니엘라 사장은 “지금까지 위험을 줄이는 데 큰 성과를 냈다고 생각한다”고 말했다. 이어 “앞으로도 해야 할 일이 더 많지만, 우리는 안전을 지키는 데 깊이 전념하고 있다”고 덧붙였다.

앤트로픽은 이날 나스닥에 종목코드 ‘ANT’로 상장했다. 첫 체결가는 주당 111.50달러(약 14만8300원)로 공모가 83달러(약 11만400원)보다 34.3% 높았다. 전체 공모액은 813억4000만달러(약 108조원)로 역대 최대 규모다.
◎공감언론 뉴시스 snow@newsis.com

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다