[지디넷코리아]
금융보안원(원장 박상원)이 ‘금융 AI 안전성·신뢰성 평가 프레임워크’를 개발했다. 국내서 처음으로 금융 특화 AI 안전성 및 신뢰성을 평가하는 체계를 개발했다. 올해 금융회사를 대상으로 수요조사와 시범검증을 한 후 내년부터 본격 평가를 실시한다.
12일 금보원에 따르면, 망분리 완화 등 금융당국 규제 혁신으로 금융권 인공지능 전환(AX)이 가속화됨에 따라 AI 활용 확대에 수반되는 위험을 체계적으로 관리하고 AI 안전성과 신뢰성을 객관적, 종합적으로 평가하기 위해 이번 프레임워크를 개발했다.
금융회사의 AI 활용이 핵심 업무까지 확대되면서 AI 시스템에서 발생할 수 있는 새로운 리스크(AI 환각, 오작동, 보안사고 등)에 대응하고 금융산업에 특화된 평가 기준 마련이 요청됐다.
이번 프레임워크는 국내외 주요 AI 평가 체계를 조사 및 분석해 AI 관련 규제 체계에 부합하는 세부 기술 평가 항목과 기준을 마련했다. 국내는 금융분야 인공지능 가이드라인(금융위), 금융분야 인공지능 보안 안내서(금보원), 금융분야 AI RMF(금감원), AI기본법(과기정통부) 등을 참고했고, 해외는 ISO/IEC 42001, ISO/IEC TR 24028, AI Testing Guide(OWASP), Inspect(AISI) 등을 참고했다.
엄격한 규제 준수와 고도의 안전성 및 신뢰성이 요구되는 금융회사의 특성을 고려했고, 금융위원회가 발표한 ‘금융분야 인공지능 가이드라인’ 내 신뢰성·보안성 원칙에 대한 기술적 검증이 가능하도록 구성했다.
금융보안원은 금융회사를 대상으로 오는 14일 온라인 설명회를 연다. 이어 수요 조사(9월 중)를 실시하고 하반기 중 ‘금융 AI 안전성·신뢰성 평가’ 시범 검증을 수행할 예정이다. 시범 검증을 통해 평가 프레임워크 실효성을 검증 및 보완해 완성도를 제고하고 내년부터 평가 업무를 개시할 예정이다. 또 이번 평가 프레임워크가 ‘AI 기본법’에 따른 AI 안전성, 신뢰성 검증 및 인증 체계로 활용될 수 있게 추진할 계획이다.
박상원 금융보안원장은 “이번 프레임워크는 금융산업 특수성을 반영한 국내 최초의 AI 안전성․신뢰성 평가 체계라는 점에서 의미가 크다”며 “AI 서비스의 잠재적 위험을 실질적으로 평가할 수 있게 기술 평가 항목을 강화했다. 향후 금융권의 표준 프레임워크로 발전시켜 안전하고 신뢰할 수 있는 금융권의 AI 활용을 지원할 계획”이라고 밝혔다.