[지디넷코리아]
일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 ‘그록(Grok)’이 아동 성 착취물 제작 도구로 전락했다는 비판을 받고 있다.
각국이 강도 높은 규제 조치에 나선 가운데, 오픈AI가 차세대 수익 모델로 점찍은 ‘AI 성인 모드 대화’ 등 시장 전반에 미칠 영향이 주목된다.
18일 정보기술(IT)업계에 따르면 최근 ‘엑스(X·옛 트위터)’ 유료 사용자들에게 제공된 그록의 이미지 생성 및 편집 기능이 악용되고 있다.
실존 인물 사진을 비키니·속옷·나체에 가까운 모습으로 합성하는 데 사용됐다는 제보가 온라인상에 쏟아졌다. 특히 미성년자를 대상으로 한 성 착취 딥페이크까지 제작·유포된 정황이 드러나며 논란이 확산됐다.
전 세계 정부와 규제당국도 조사와 해명 요구에 나섰다. 인도네시아와 말레이시아는 즉각 그록 접속을 차단했고 일본·필리핀 등도 규제·차단 조치를 논의 중이다. 영국 방송미디어 규제기관인 오프콤(Ofcom)도 온라인안전법 위반 여부에 대한 공식 조사에 착수했다.
미국은 캘리포니아주 법무부가 xAI에 대해 동의 없는 음란 이미지와 아동 성 착취 딥페이크 생성 혐의로 조사에 나선 상태다.
비판과 수사가 전방위로 확산하자 엑스 측은 수습에 나섰다. 엑스는 그록에서 실제 인물을 비키니나 속옷 등 노출이 심한 복장으로 편집하거나 생성하는 기능을 기술적으로 차단했다고 공식 발표했다.
또 아동 성 착취물이나 비동의 누드 콘텐츠는 ‘무관용 원칙’을 적용해 해당 계정을 영구 정지하고 사법 당국과 적극적으로 협력하겠다는 방침을 밝혔다. 특히 이미지 생성 및 편집 기능을 유료 구독자에게만 한정 제공해 악용 시 책임 추적을 한층 강화하겠다고 덧붙였다.
xAI 설립자인 일론 머스크도 자신의 엑스 계정을 통해 해명에 나섰다. 머스크는 “그록이 미성년자 나체 이미지를 생성했다는 사실을 인지하지 못했다”고 부인했다.
문제 원인이 시스템 자체 결함에 있기보다 일부 사용자의 악의적인 요청과 기술적 버그 탓이 크다는 설명이다. 동시에 그는 각국 서비스 차단·조치가 ‘검열’에 가깝다는 불쾌감도 드러냈다.
성인용 콘텐츠를 통해 정체된 수익성을 돌파하려던 AI업계도 이번 사태가 미칠 직간접적 여파를 예의주시하는 모양새다. 연령 인증 우회, 콘텐츠 악용 같은 기존 우려에 더해 그록의 성적 딥페이크 논란으로 글로벌 규제 압박이 커진 탓이다.
AI 챗봇의 성인용 대화 기능을 준비하던 기업들은 강화된 안전장치 없이는 시장 진입이 어려워졌다. ‘표현의 자유’와 ‘사회적 안전’ 충돌 속에서 고강도 규제는 불가피할 것으로 보인다.
해외 시장에서는 ‘레플리카(Replika)’ 같은 AI 동반자 서비스들이 성인용 대화 시장을 선점 중이다. 캐릭터닷AI 역시 로맨틱 롤플레잉을 제공하며 사용자 몰입도를 높이는 전략을 펼치고 있다.
xAI는 지난 2025년 3월 업계 최초로 ‘그록’에 성인 모드를 공식 도입했고, 같은 해 연말 오픈AI도 성인 인증을 완료한 사용자에게 성인용 에로틱 대화를 허용하겠다는 방침을 내놨다.