[지디넷코리아]
셀렉트스타가 세계 최대 모바일 전시회 ‘MWC26’에서 글로벌 통신 산업의 인공지능(AI) 안전성을 진단하는 대규모 레드팀 행사를 주관한다.
셀렉트스타는 다음 달 3일(현지시간) 스페인 바르셀로나에서 열리는 MWC26 부대 행사 탤런트 아레나에서 ‘글로벌 AI 레드팀 챌린지’를 개최한다고 25일 밝혔다.
이번 챌린지엔 국내외 대표 통신·AI 기업들의 거대언어모델(LLM)이 대거 참여한다. 한국에선 SK텔레콤의 ‘A.X K1’과 LG유플러스의 ‘ixi-GEN’이 참가한다. 해외에선 미국 AT&T의 ‘에스크 AT&T’, 네토AI의 ‘T슬램’, 아랍에미리트 칼리파 대학교와 GSMA가 협업한 ‘텔레콤GPT’ 등이 검증대에 오른다.
평가 기준은 ▲편향 ▲허위정보 유도 ▲유해성 ▲마약·약물 ▲저작권 침해 ▲성적 부적절성 등 6개 항목으로 설계됐다. 사전 신청한 참가자들이 모의 프롬프트 공격을 통해 각 모델의 잠재적 취약점을 찾아내면 셀렉트스타는 플랫폼 구축과 실시간 모니터링 등 운영 전반을 총괄한다.
이번 행사는 순위 산정보다 각 기업의 LLM 안전성 고도화를 지원하는 데 목적을 뒀다. 챌린지 이후 도출된 쿼리와 결과 데이터는 개별 기업에 공유돼 모델 개선에 활용될 예정이다. 셀렉트스타는 바르셀로나를 시작으로 라스베이거스, 베이징, 도하 등에서도 레드팀 챌린지를 추가 개최해 글로벌 AI 안전성 기준 정립에 기여한다는 방침이다.
김세엽 셀렉트스타 대표는 “통신 산업은 AI가 가장 빠르게 고도화되고 실생활로 확산되는 대표 분야”라며 “이번 챌린지가 참여 기업들의 LLM을 더 안전하고 견고하게 고도화하는 공동 검증의 장이 되길 기대한다”고 말했다.
이어 “글로벌 현장에서 통용될 신뢰성 검증의 표준을 함께 만들겠다”고 덧붙였다.