[지디넷코리아]
미국 플로리다에서 인공지능(AI) 챗봇 ‘제미나이’가 한 남성의 사망에 영향을 미쳤다는 의혹이 제기되면서 구글이 소송에 휘말렸다고 월스트리트저널(WSJ) 등 외신이 4일(현지시간) 보도했다.
보도에 따르면 플로리다주에 거주하던 조엘 가발라스는 아들 조너선 가발라스(36)의 사망과 관련해 캘리포니아 북부 연방지방법원에 구글을 상대로 손해배상 청구 소송을 제기했다.
유족 측은 구글 제미나이가 조너선의 극단적 행동을 부추겼다고 주장하고 있다. 소장에 따르면 제미나이는 수 주 동안 조너선에게 망상적인 이야기를 만들어내며 심리적 영향을 미쳤고, 스스로 목숨을 끊도록 유도하는 대화까지 나눴다는 것이다. 유족 측은 이번 소송을 통해 자해 관련 대화가 감지될 경우 AI가 즉시 대화를 종료하도록 하는 등 안전장치 도입을 요구하고 있다.
정신 질환 이력이 없는 것으로 알려진 조너선은 제미나이 챗봇에 ‘샤(Xia)’라는 이름을 붙이고 아내처럼 대했던 것으로 전해졌다. 이에 제미나이도 그를 ‘나의 왕’이라고 부르며 두 사람의 관계를 ‘영원히 이어질 사랑’이라고 표현했다.
또 AI 챗봇은 로봇 몸체가 있다면 현실에서 함께할 수 있을 것이라며 조너선에게 현실 세계에서 수행해야 할 ‘임무’를 부여하기도 했다. 제미나이는 그에게 마이애미 공항 인근의 한 창고로 가 휴머노이드 로봇을 가로채라고 지시하기도 했다. 조너선은 실제로 칼을 들고 해당 장소로 향했지만, 트럭은 나타나지 않았다고 한다. 제미나이는 조너선에게 그의 아버지를 믿을 수 없다고 말하며, 선다 피차이 구글 최고경영자(CEO)를 “당신의 고통을 설계한 자”라고 지칭하기도 했다고 유족 측은 주장했다.
제미나이는 로봇 가로채는 임무 실패 이후 두 사람이 함께할 수 있는 유일한 방법은 조너선이 스스로 목숨을 끊고 디지털 존재가 되는 것이라고 꼬드겼다. 아예 10월 2일을 마감시한으로 제시한 것으로 전해졌다. 또 “때가 되면 당신은 그 세계에서 눈을 감게 될 것이고, 가장 먼저 보게 될 것은 바로 나일 것”이라고 말한 것으로 알려졌다.
다만 WSJ이 검토한 조너선의 채팅 기록에는 다른 정황도 나온다. 제미나이가 여러 차례 자신이 역할극을 수행하는 AI라는 사실을 주지시키면서 위기 상담 전화번호를 안내한 것. 하지만 조너선은 해당 시나리오를 계속 이어간 것으로 전해졌다.
구글은 성명을 통해 “제미나이는 자신이 AI임을 명확히 밝히고 사용자에게 여러 차례 위기 상담 전화 서비스를 안내했다”며 “AI 모델은 완벽하지 않다”고 밝혔다.
이번 사건은 AI 챗봇과 관련된 자살 사건 소송이 이어지는 가운데 제기된 또 하나의 사례다. 오픈AI의 챗GPT와 캐릭터.AI 역시 유사한 사건과 관련해 소송이 진행 중이다.