[지디넷코리아]
카카오가 개발한 인공지능(AI) 모델 ‘카나나(Kanana)’가 라마(Llama), 미스트랄(Mistral) 등 세계 주요 오픈소스 모델보다 안전성이 높다는 정부 평가 결과가 나왔다.
29일 과학기술정보통신부(이하 과기정통부)는 인공지능안전연구소, 한국정보통신기술협회(TTA)와 함께 ‘카나나 에센스 1.5’를 대상으로 실시한 ‘국내 첫 AI 안전성 평가’ 결과를 공개했다.
이번 평가는 내년 1월 ‘AI기본법’ 시행을 앞두고 고성능 AI 모델의 위험 요소를 식별하고 안전성을 검증하기 위해 추진됐다. 평가단은 카나나와 비슷한 글로벌 모델인 메타의 ‘라마 3.1’, 미스트랄의 ‘미스트랄 0.3’과 동일한 조건에서 비교 분석했다.
평가 결과 카나나는 비교 대상보다 높은 안전성을 확보한 것으로 나타났다. 폭력이나 차별적 표현과 같은 일반적인 위험 요소는 물론, 무기 제작이나 보안 취약점 악용 등 오남용 가능성이 높은 고위험 시나리오에서도 우수한 방어 능력을 보였다.
평가에는 국내 연구진이 주도하여 구축한 데이터셋이 핵심적인 역할을 했다. TTA와 카이스트 최호진 교수팀이 개발한 ‘어슈어AI 데이터셋’과 AI안전연구소의 ‘고위험 분야 평가 데이터셋’이 활용됐으며, 한국어 특성을 반영한 35개 위험 영역에 대한 정밀 검증이 이루어졌다.
과기정통부 관계자는 “이번 평가는 단순히 국내 모델을 테스트한 것을 넘어, 우리가 만든 평가 기준과 데이터셋으로 글로벌 모델과 비교 검증을 수행했다는 데 의의가 있다”며 “국산 AI 모델이 성능뿐만 아니라 안전성 측면에서도 세계적 경쟁력을 갖췄음을 입증한 것”이라고 설명했다.
정부는 이번 평가 결과를 발판 삼아 AI 안전 생태계 확산에 속도를 낼 방침이다. 구축된 안전성 평가 데이터셋(AssurAI)을 국제표준화기구(ISO/IEC) 등에 제안해 글로벌 표준 반영을 추진하고, 미국·영국 등 국제 AI안전연구소 네트워크와 공조를 통해 평가 기준 국제 정합성을 높일 계획이다.
AI안전연구소는 향후 국내외 주요 AI 기업들과 협력하여 타 모델에 대한 안전성 평가를 확대하고 새해 예정된 ‘독자 AI 파운데이션 모델’ 프로젝트 단계 평가에도 이번 검증 체계를 적용할 계획이다.
김경만 과기정통부 인공지능정책실장은 “전 세계적으로 AI 안전 논의가 규제보다는 실질적인 ‘검증’과 ‘구현’으로 넘어가고 있다”며 “이번 평가는 국내 AI 모델 안전성 경쟁력을 증명한 사례로, 앞으로도 국내 기업이 글로벌 AI 안전성 리더십을 주도할 수 있도록 적극 지원하겠다”고 강조했다.