[지디넷코리아]
구글이 위성사진에 인공지능(AI)으로 가상의 건물이나 사건 현장을 추가할 수 있는 ‘구글 어스’ 이미지 편집 기능을 철회했다. 실제 지형을 바탕으로 폭격 피해와 원자력발전소, 난민 행렬 등을 사실처럼 꾸민 이미지가 잇따라 확산하면서 분쟁 지역의 피해를 확인하는 위성사진에 대한 신뢰까지 흔들릴 수 있다는 우려가 커졌기 때문이다.
1일 파이낸셜타임스(FT)에 따르면 구글은 최근 구글 어스에 적용한 생성형 AI 기반 이미지 편집 기능을 되돌리고 안전장치를 강화하기로 했다.
앞서 구글은 지난달 30일 이미지 생성 모델 ‘나노 바나나’를 구글 어스에 통합했다고 발표했다. 이용자가 원하는 장면을 문자로 입력하면 실제 위성사진 위에 AI가 생성한 사물이나 건물, 상황을 추가해 지역의 모습을 가상으로 바꿀 수 있는 기능이다.
기능 공개 직후 소셜미디어 X에서는 가자지구에 폭탄이 떨어져 분화구가 생긴 장면과 이란의 원자력발전소, 네덜란드 암스테르담에서 발생한 차량 사고 등을 묘사한 조작 이미지가 공유됐다. 멕시코 국경에 난민이 모여 있는 모습과 같은 정치·사회적 갈등을 자극할 수 있는 이미지도 제작됐다.
구글 어스는 언론인과 오픈소스정보(OSINT) 분석가가 전쟁과 재난, 군사시설 피해 등을 검증할 때 사용하는 대표적인 도구다. 현장 접근이 제한된 지역에서 촬영된 사진이나 영상의 위치를 확인하고 과거 위성사진과 비교해 피해 규모를 판단하는 기준 자료로 활용돼 왔다.
이번 기능은 일반 이미지 생성 서비스와 달리 구글 어스의 실제 위성사진에 가짜 장면을 덧입힌다는 점에서 우려를 키웠다. 지형과 도로, 건물의 위치와 규모를 그대로 유지할 수 있어 일반적인 AI 생성 이미지에서 나타나는 배경 왜곡이나 크기 오류도 발견하기 어렵기 때문이다.
생성형 AI 기능이 구글 어스 안에 직접 들어가면서 정보를 검증하는 도구와 가짜 정보를 만드는 도구가 하나의 서비스에 공존하게 됐다는 비판도 제기됐다. 조작 이미지가 구글 어스의 실제 화면을 캡처한 것처럼 유통될 경우 이용자가 진위를 구분하기 더 어려워질 수 있어서다.
샘 스톡웰 앨런튜링연구소 선임연구원은 “구글 어스는 수십 년간 언론인과 조사관이 의심스러운 이미지를 확인하는 기준 자료로 쓰였다”며 “생성형 도구를 같은 서비스에 넣으면 가짜를 판별하는 척도 자체를 오염시킬 수 있다”고 지적했다.
구글은 조작된 이미지가 다른 이용자의 구글 어스 기본 화면에는 표시되지 않았고 생성 결과물에 AI 워터마크도 삽입했다고 설명했다. 다만 정책을 위반한 것으로 보이는 이미지 캡처가 외부에 공유된 사실을 확인하고 기능을 철회하기로 했다.
하지만 워터마크만으로 허위정보 확산을 막기 어렵다는 지적도 나온다. 소셜미디어에서는 이미지가 작게 표시되거나 일부가 잘려 공유되는 경우가 많아 AI 생성 표시가 보이지 않을 수 있어서다. 또 워터마크를 삭제하거나 화면을 다시 촬영하는 방식으로 생성 흔적을 숨기는 것도 가능하다.
AI로 조작한 위성사진은 군사적 긴장이나 재난 상황에서 피해 규모를 과장하거나 존재하지 않는 공격을 실제 사건처럼 꾸미는 데 활용될 수 있다는 점에서도 우려된다. 앞서 지난 3월 중동 지역에서는 이란의 드론 공격으로 카타르에 있는 미국 레이더 시설이 파괴됐다고 주장하는 AI 조작 위성사진이 X에서 확산됐다. 또 이라크 내 미군기지의 피해 규모를 실제보다 부풀린 이미지도 유통됐다.
브래디 애프릭 미국기업연구소 연구원은 “가짜 이미지가 실제 위성사진에 고정돼 있기 때문에 지형과 크기가 맞지 않는 등 AI 생성물에서 나타나는 단서가 줄어든다”며 “대부분의 이용자는 이미지를 넘겨보거나 공유할 때 AI로 만들어졌는지 확인하지 않는다”고 말했다.