[지디넷코리아]
미국 IT 기업들이 인공지능(AI) 생성물 표시 정책을 구체화하고 있다. 눈에 보이는 워터마크는 줄이면서도 콘텐츠 내부에 식별 신호를 삽입해 출처를 추적하는 방식으로 전환 중이다.
17일 IT 업계에 따르면 구글을 비롯한 앤트로픽, 오픈AI 등은 이미지·영상·음성·텍스트에 가시 또는 비가시 워터마크와 출처 메타데이터를 적용하는 방안을 잇달아 공개했다.
기업들이 워터마크 적용 대상과 검증 절차를 구체화한 배경에는 지난 2일부터 시행된 유럽연합(EU) AI법 제50조가 있다. EU가 AI 생성물에 기계 판독이 가능한 표시를 요구하면서 콘텐츠 종류별 식별 기술 마련에도 속도가 붙었다.
구글은 지난 14일 이미지·영상·음악 등 AI 생성물의 워터마크 표시 여부를 사용자가 선택할 수 있도록 한다고 밝혔다. 적용 대상은 이미지 생성 모델 ‘나노 바나나’와 영상 모델 ‘옴니’, 음악 생성 모델 ‘리리아’다.
해당 기능은 제미나이와 AI 영상 제작 도구 ‘플로우’에 우선 적용된다. 검색 서비스도 조만간 지원한다. 사용자는 ‘설정→미디어 워터마크’에서 표시를 켜거나 끌 수 있다.
조시 우드워드 구글 랩스·제미나이 앱·AI 스튜디오 총괄 부사장은 AI 생성물 식별 체계를 폐기한 것은 아니라고 선 그었다. 콘텐츠 내부에 신호를 삽입하는 비가시 워터마크 ‘신스아이디(SynthID)’와 생성 도구·시점 등 출처 정보를 담는 C2PA 메타데이터는 그대로 유지한다고 밝혔다.
이용자는 제미나이나 구글 검색을 통해 이미지가 AI로 만들어졌는지 확인할 수 있다. 구글은 개발자가 애플리케이션 내부에 C2PA 검증 기능을 넣을 수 있도록 오픈소스 라이브러리 ‘크레덴티오’도 내놨다.
업계에선 이번 조치가 전문적인 디자인과 광고, 영상 제작 과정에서 가시 워터마크가 결과물 활용도를 떨어뜨린다는 지적을 반영한 것이란 분석이 나오고 있다. 이에 누구나 화면에서 즉시 확인할 수 있는 표시는 없애되, 기계가 읽을 수 있는 출처 신호는 남기는 식으로 정책을 변경한 것이다.
이날 앤트로픽도 AI 생성물 표시 정책을 공개했다. 앞으로 출시하는 클로드 모델의 생성 텍스트에 사람이 눈으로 확인할 수 없는 통계적 패턴을 심고, 기존 모델에도 수개월에 걸쳐 같은 기술을 적용할 계획이다.
앤트로픽은 클로드 텍스트에 특수문자나 숨은 문자를 넣지 않는다. 대신 클로드가 의미가 비슷한 여러 표현 가운데 일정한 규칙에 따라 단어를 선택하도록 설정했다. 이에 전용 도구로만 확인할 수 있는 패턴을 글 전체에 남기는 식이다.
앤트로픽은 이 기술이 문장 의미나 품질을 바꾸지 않으며, 토큰 사용량과 비용에도 영향을 주지 않는다고 설명했다. 워터마크에는 이용자나 소속 기업, 특정 대화를 식별할 수 있는 개인정보도 담기지 않는다.
클로드가 생성하거나 편집한 이미지 등 지원 대상 파일에는 텍스트 워터마크 대신 암호화 서명이 담긴 C2PA 메타데이터를 추가한다. 앤트로픽은 클로드의 텍스트 워터마크를 확인할 수 있는 탐지 응용프로그램 인터페이스(API)도 제공할 예정이다.
테크크런치 등 외신에 따르면 이 워터마크만으로 클로드가 글을 작성했다고 단정하기는 어렵다. 일부 문장을 수정한 경우에는 패턴이 남을 수 있지만 글 전체를 다시 쓰면 사라질 가능성이 있어서다. 클로드가 처음부터 작성한 글과 사람이 쓴 글을 클로드가 대폭 수정한 경우를 구분하기도 어렵다.
이에 앤트로픽은 워터마크가 콘텐츠 제작 과정에 클로드가 관여했을 가능성만 보여준다고 설명했다. 검출 결과만으로 글의 저자나 소유권, 이용 목적을 판단하거나 부정행위의 증거로 삼을 수 없다는 의미다.
오픈AI와 메타도 비가시 워터마크와 출처 메타데이터를 중심으로 AI 생성물 식별 체계를 강화하고 있다. 콘텐츠에 식별 신호를 심고 별도 검증 도구를 통해 생성 출처를 확인하는 방식이다.
오픈AI는 지난달 31일 비가시 워터마크 기술 ‘신스아이디’의 적용 대상을 이미지에서 음성으로 확대했다. 챗GPT·코덱스·오픈AI API가 생성한 이미지에는 신스아이디와 C2PA 메타데이터를 함께 적용하고, 지원 대상 음성에는 사람이 들을 수 없는 식별 신호를 삽입한다.
이용자는 ‘오픈AI 베리파이’에 이미지나 음성 파일을 올려 오픈AI 도구로 생성됐는지 확인할 수 있다. 다만 적용 방식은 콘텐츠 유형에 따라 달라 소라2 영상에는 움직이는 가시 워터마크와 C2PA 메타데이터를 함께 표시한다. 텍스트 워터마크는 아직 도입하지 않았다.
메타도 지난달 7일 이미지 생성 모델 ‘뮤즈 이미지’에 자체 비가시 워터마크 기술 ‘콘텐츠 실’을 적용했다. 메타는 이미지를 자르거나 압축하고 크기를 변경하거나 화면을 캡처해도 식별 신호가 유지된다고 설명했다. 워터마크 탐지 도구도 시험 공개했으며 향후 적용 범위를 영상으로 확대할 계획이다.
메타는 AI 모델 개발사인 동시에 페이스북·인스타그램·스레드를 운영하는 유통 플랫폼이라는 점에서 차별화된다. 자체 생성물에 식별 신호를 넣는 동시에 외부 AI 서비스의 C2PA·IPTC 정보와 이용자 신고를 바탕으로 게시물에 ‘AI 정보’ 라벨을 표시한다.
반면 xAI는 그록이 작성한 텍스트에 기계 판독이 가능한 비가시 워터마크를 적용한다는 계획을 아직 공개하지 않았다. 이미지·영상에는 가시 표시를 적용하면서도 텍스트 워터마크와 탐지 체계는 구체화하지 않은 상태다.
회사는 브랜드 지침을 통해 이용자가 그록 생성물을 배포할 때 ‘그록으로 작성’이나 ‘그록으로 제작’이라는 문구를 표시하도록 권고하는 데 그치고 있다.
테크크런치는 “xAI가 EU 공동 규범 밖에서 그록 텍스트 출처를 어떤 기술로 확인할지가 핵심 쟁점이 될 전망”이라고 내다봤다.