텐센트 AI 챗봇 위안바오 로고[바이두 캡처. 연합뉴스][바이두 캡처. 연합뉴스]중국의 생성형 인공지능(AI) 서비스가 새해 인사 이미지를 생성하라는 사용자의 요구가 반복되자 욕설이 포함된 결과물을 내놓은 것으로 알려져 논란이 일고 있습니다.
현지시간 25일 홍성신문 등 중국 매체에 따르면 시안의 한 변호사가 이번 춘제(春節·중국의 설) 연휴 기간 텐센트의 생성형 AI 서비스 ‘위안바오'(元宝)를 이용해 새해 인사용 이미지를 제작하던 중 욕설이 포함된 문구가 생성됐습니다.
위안바오는 텐센트가 자체 대형언어모델(LLM)을 기반으로 선보인 대화형 AI 서비스입니다.
이 변호사는 자신의 사진을 업로드한 뒤 “나는 변호사이니 직업 특성에 맞는 새해 인사 이미지를 제작해 달라”라고 요청했습니다.
그는 초기 결과가 기대에 못 미치자 몇 차례 추가 지시를 내렸고, 이 과정에서 “이게 무슨 디자인이냐”라는 취지의 불만을 표현했습니다.
이후 새로 생성된 이미지에 기존의 “새해 복 많이 받으세요, 승진하시길 바랍니다”라는 문구 대신 욕설이 삽입됐다는 것입니다.
이 사례가 소셜미디어를 통해 알려지자 텐센트 측은 이날 사과와 함께 재발 방지를 약속했습니다.
텐센트는 “모델이 여러 차례 대화를 처리하는 과정에서 비정상적인 결과가 발생했다”라며 “관련 문제를 긴급 교정하고 사용자 경험을 최적화했다”라고 밝혔습니다.
이번 사례는 중국이 생성형 AI 경쟁에서 빠르게 존재감을 키우는 가운데 발생했다는 점에서 주목됩니다.
텐센트, 바이두, 알리바바 등 주요 빅테크 기업들은 잇달아 자체 LLM을 고도화하며 상용 서비스 확대에 나서고 있습니다.
다만 업계에서는 이번 사례처럼 맥락을 오인하거나 감정 표현을 잘못 학습한 결과가 나오는 비정상 출력 문제가 완전히 해소되지 않았다는 지적이 나옵니다.
이와 관련해 광저우일보는 “기술은 죄가 없지만 그대로 두는 것은 방임”이라며 “AI는 사람의 학습 능력과 지식만을 습득해서는 안 되고, 인류의 양심도 계승해야 한다”라고 논평했습니다.
#중국 #AI #욕설 #위안바오
연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23
권정상(jusang@yna.co.kr)