[서울=뉴시스]김건민 인턴 기자 = 글로벌 정보기술(IT) 기업 애플과 구글이 자사 휴대전화 애플리케이션(앱) 장터에서 알몸 이미지를 합성해주는 인공지능(AI) 앱들을 사실상 방치하며 수익을 올리고 있다는 분석이 나왔다.
비영리 감시단체 ‘기술투명성프로젝트(TTP)’가 27일(현지시각) 발표한 보고서에 따르면, 애플 앱스토어와 구글 플레이 스토어에서 이 같은 앱이 각각 47개와 55개 확인됐다.
문제가 된 앱들은 전 세계에서 7억500만회 이상 다운로드됐으며, 예상 수익은 약 1억1700만 달러(약 1670억원)에 이르는 것으로 분석됐다.
애플과 구글은 앱 개발자 수익의 최대 30%를 수수료로 가져가는 구조인 만큼, 해당 앱들을 방치함으로써 직접적인 이익을 얻고 있다고 TTP는 지적했다.
이 앱들은 AI 기술을 활용해 사진 속 인물을 나신이나 비키니 수영복 차림 등 선정적인 모습으로 변환하거나, 다른 성적 이미지에 얼굴을 합성하는 ‘딥페이크’ 기능을 제공했다.
상당수는 오락용 이미지 합성 앱이나 다양한 의상을 가상으로 착용해보는 ‘AI 피팅룸’ 앱으로 홍보됐다.
일부 앱은 외설적이거나 타인에게 불쾌감을 줄 수 있는 콘텐츠 생성을 금지한다는 약관을 두고 있었지만, 실제 이용 과정에서는 성적인 이미지 생성에 별다른 제한을 하지 않은 것으로 나타났다.
아울러 ‘옷 찢기’ ‘엉덩이 흔들기’ 등 노골적인 영상 템플릿을 제공하는 앱들도 있었다.
구글 플레이 스토어 운영 정책에는 성적인 나체 묘사나 최소한의 옷만 입은 상태에서 성적으로 자극적인 자세를 취한 이미지, 오락 앱으로 분류되더라도 옷을 벗기거나 사람을 비하하는 앱 등을 금지한다고 규정돼 있다.
애플 앱스토어 역시 불쾌하거나 혐오감을 주는 콘텐츠, 노골적으로 성적이거나 음란한 자료의 제작을 제한하고 있다.
이번 사례를 두고 애플과 구글이 자사 앱 장터에 적용하고 있는 자율 규제가 제대로 작동하지 않고 있다는 비판도 제기된다.
이와 관련해 애플 대변인은 미국 CNBC에 “TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다”고 밝혔다.
구글 대변인도 “보고서에 언급된 앱들을 정책 위반으로 사용 중지했다”고 전했다. 이후 구글은 31개의 앱을 삭제한 것으로 알려졌다.
◎공감언론 뉴시스 driedmin@newsis.com