[지디넷코리아]
중국의 ‘AI 의인화 상호작용 서비스 관리 잠정 규정’이 7월 15일 시행된다. 이에 맞춰 바이트댄스의 더우바오(Doubao)와 알리바바의 큐원(Qwen)은 시행 전에 개인화 AI 에이전트 기능을 접는다. 개인화 기능은 이용자가 직접 성격과 역할을 설정해 만드는 맞춤형 AI 동반자 기능이다. 챗GPT에도 비슷한 설정이 있으나 중국의 두 앱은 더욱 적극적으로 페르소나 설정을 할 수 있는 것으로 알려져 있다.
이 규정은 국가인터넷정보판공실(CAC)이 국가발전개혁위원회·공업정보화부·공안부·시장감독관리총국 네 기관과 함께 지난 4월 공동 발표했다. 사람의 성격·사고방식·대화 방식을 흉내 내 지속적인 정서적 교감을 제공하는 서비스가 대상이다. 고객센터 봇, 지식 질의응답, 업무 보조, 교육·연구 도구는 지속적 정서 교감이 없으면 적용에서 빠진다. 중국이 의인화 AI를 겨냥해 별도 규정을 둔 것은 이번이 처음이다.
규정은 세 가지를 요구한다. 중독 방지 장치, 이용 알림, 즉시 종료 기능이다. 이용자가 두 시간 넘게 연속으로 대화하면 사람이 아닌 기계와 이야기하고 있다는 알림을 띄워야 한다. 미성년자에게는 시간제한과 보호자 통제를 갖춘 별도 모드를 둬야 하고, 18세 미만에게는 가상 연인·가족형 관계 설정 자체가 금지된다.
더우바오는 중국에서 가장 많이 쓰이는 AI 앱으로 월 사용자가 3억 4,500만 명이다. 7월 15일 에이전트 기능을 내리는데, 이용자는 10월 15일까지 자신의 에이전트 설정과 대화 기록을 읽기 전용으로만 볼 수 있다. 그 이후에는 앱에서 접근·복구가 불가능해진다. 바이트댄스는 중요한 내용을 화면 캡처나 텍스트 공유로 미리 저장하라고 안내했다.
큐원의 상황은 더 급하다. 알리바바는 별도의 이전 경로를 내놓지 않았다. 에이전트 설정과 대화 기록은 종료 뒤 영구 삭제되며, 마감을 놓친 이용자는 데이터를 되찾을 수 없다. 두 회사 모두 기존 구조를 규정에 맞춰 고치는 대신 기능을 통째로 접기로 했다. 중독 방지가 요구하는 이용 마찰이, 기억을 계속 유지하는 에이전트의 작동 방식과 맞지 않기 때문이다. 바이트댄스는 규정에 맞춘 별도 제품으로 더우바오 에이전트를 다시 낼 수 있다고 밝혔지만, 알리바바는 큐원에 대해 비슷한 계획을 내놓지 않았다.
이번 조치로 중국 AI 앱 이용자 수억 명이 직접 영향을 받는다. 개인화 에이전트는 이용자가 성격과 역할을 직접 설정해 오래 대화를 이어 온 기능이다. 두 회사가 이를 접으면서, 이용자가 쌓아 온 설정과 대화 기록을 어떻게 처리할지가 규정 준수의 첫 시험대가 됐다. 다른 나라 규제 당국이 의인화 AI를 어떻게 다룰지에도 참고점이 된다.
자세한 내용은 TechNode에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
■ 이 기사는 AI 전문 매체 ‘AI 매터스’와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. (☞ 기사 원문 바로가기)