[지디넷코리아]
“인공지능(AI) 신뢰성은 막연한 도덕적 선언이 아닌 철저히 계산된 기술적 설계가 필요한 분야입니다. 기업은 어떤 근거로 기술적 판단을 내렸는지, 어떤 책임을 어떻게 질 것인지 설명할 줄 알아야 합니다. AI 신뢰성은 시장에 참여하기 위한 최소 자격 조건이 될 것입니다.”
박지환 씽크포비엘 대표는 최근 지디넷코리아를 만나 “AI와 착하게 살자는 식의 감성적인 윤리적 접근으로는 실질적인 AI 위험을 통제할 수 없다”며 AI 신뢰성 패러다임 변화 필요성을 이같이 강조했다. 그는 “AI 신뢰성이란 기술을 설명하고 증명하며 책임질 수 있는 상태”로 정의했다.
박 대표는 AI 신뢰성 논의가 오랫동안 ‘윤리적인 AI’ 또는 ‘신뢰할 수 있는 AI’라는 구호 수준에 머물렀다고 지적했다. 어디서 위험이 감지되고, 누가 멈추고, 누가 책임지는지는 거의 다뤄지지 않았다는 설명이다.
그는 이같은 공백을 메우기 위해 국내에서 처음으로 AI 신뢰성 민간 자격 ‘CTAP(Certified Trustworthy AI Professional)’를 설계했다고 밝혔다. CTAP 시험은 AI가 법적 준거성과 기술적 견고성을 동시에 갖췄음을 기술적으로 설명할 수 있는 전문가를 양성하는 것이 목적이다.
실제 CTAP는 AI 윤리에 대한 감각이나 가치 판단을 묻지 않는 것으로 알려졌다. AI 위험을 어떻게 식별하는지, 설명 가능성을 오해 없이 구현할 수 있는지, 운영 단계에서 신뢰가 무너질 때 어떤 기술적 판단을 내릴 것인지를 철저히 기술적으로 묻는 시험이다.
박 대표는 CTAP를 통해 AI 기술 심판자 역량을 가려내는 것이 목표라고 밝혔다. 그는 “어떤 기술이든 사회에 나오기 위해 충족해야 할 최소한의 규칙을 알고 있는지를 평가하는 것”이라고 밝혔다.
CTAP 자격 체계는 두 가지로 구성됐다. 입문 단계인 FL(Foundation Level)은 실무 경험이 없더라도 응시할 수 있다. AI 신뢰성 개념을 오해하지 않고, 위험을 인식할 수 있으며, 개발자·기획자·법무·운영 담당자와 논의할 수 있는 수준이다.
AL(Advanced Level)은 AI 신뢰성을 설계, 적용, 판단하는 책임을 갖추는 수준이다. FL 취득 후 최소 1년 이상 실무 경험이 필수다. 개발·기획·운영·공공 등 역할별·산업별로 전문화된 트랙으로 세분됐다.
자격 유효기간은 3년이다. 갱신 시 실무 수행 여부를 엄격히 따진다. 실제 현장에서 위험을 판단하고, 설명하고, 통제하는 역할을 수행하고 있다면 별도 재시험 없이 자격을 유지할 수 있다.
박 대표는 국내 AI기본법이 시행됐지만 법 기준을 기술적으로 해석할 인력이 부족하다는 점을 우려했다.
그는 “국내 AI기본법은 단순히 기업에 선의나 도덕성을 요구하지 않는다”며 “기업이 어떤 근거로 기술적 판단을 내렸는지 설명·책임을 요구한다”고 설명했다. 이어 “이를 수행할 인력이 없다면 현장에서 혼선을 빚을 수 있다”고 봤다.
박 대표가 이 상황에서 가장 우려하는 지점은 ‘형식주의 득세’다. 기업이 실제 위험을 관리하기보다 법에 따라 체크리스트를 채우고 문서를 갖추는 데만 급급한 신뢰성 흉내가 제도적으로 양산될 수 있다는 지적이다. 그는 “AI법은 사고 발생 시 기업을 보호하지도, 산업 안전을 담보하지도 못하는 허울뿐인 장치가 될 위험이 크다”고 말했다.
또 다른 우려는 ‘책임 공백’이다. 기술적 위험을 판단할 주체가 없다 보니, 의사결정이 한없이 위로 밀려 올라가거나 아무도 책임지지 않은 채 방치되는 현상이 나타난다는 설명이다. 박 대표는 “결과적으로 기업은 위축되고 산업 전체 속도는 떨어진다”며 “AI 윤리를 지켰다는 선언적 표현은 늘어나겠지만 판단 근거를 설명할 수 있는 사람이 없다면 결국 시장과 파트너로부터 외면받게 될 것”이라고 짚었다.
박 대표는 국내 AI 신뢰성 인재 생태계와 해외 생태계를 비교해 예시를 들었다. 박 대표는 “해외 주요국은 석·박사 과정에 AI 신뢰성과 거버넌스를 필수 커리큘럼으로 편입해 전문 인력을 양성해 왔다”며 “지식 체계를 정립하고 강사를 육성하는 데 최소 3년이 걸린다는 점을 고려하면, 관련 교육 기반이 부족한 한국은 사실상 4년 가까이 뒤처진 상태”라고 지적했다.
박 대표는 CTAP 기준을 글로벌 표준으로 만들겠다고 포부를 밝혔다.
실제 씽크포비엘은 CTAP ‘AI 신뢰성 역량 평가 모델’ 초안을 지난 10월 국제표준화기구(ISO)와 국제전기기술위원회(IEC) 등에서 공개한 바 있다. 현재 로드매핑 단계로 진입한 상태다. 그는 “이르면 내년 신규 표준 프로젝트로 제안될 가능성이 높다”고 말했다.
박 대표는 CTAP 중립성을 위해 국제 표준화는 반드시 추진돼야 한다고 주장했다. 그는 “국제 표준은 한 연구자나 한 기업 관점이 아니다”며 “각국 정부, 산업계, 학계, 규제 기관이 참여해 이해관계 충돌을 조정하고 합의를 거쳐 형성된다”고 설명했다.
이어 “표준은 단순히 기술 우수성을 알리는 문서가 아니다”며 “어떤 기술이라도 사회에 나오려면 최소한 이것은 충족해야 한다는 공통 규칙에 가깝다”고 덧붙였다.
박 대표는 국제 표준화가 AI 신뢰성 필수 요소라고 강조했다. 박 대표는 “사고가 발생했을 때 법적·사회적 책임이 수반되는 영역에서는 논문 몇 편이 아니라 어떤 국제적 기준에 근거해 판단했는가가 훨씬 중요해지는 상황”이라며 “규제, 감사, 분쟁, 정책 설계 현장에서는 논문보다 표준이 인용되고, 표준이 사실상 판단 기준선으로 작동한다”고 설명했다.
박 대표는 향후 기업에서도 AI 신뢰성은 선택 사항이 아니라 시장에 참여하기 위한 최소 자격 조건이 될 것으로 내다봤다. AI 시장이 성숙해질수록 “이 기술은 누가 책임지는가” “어떤 기준으로 허용됐는가” “사고 발생 시 누가 멈출 수 있는가” 같은 거버넌스 체계를 갖추는 것이 필수적이라는 이유에서다.
박 대표는 “전담 실무자 없는 조직은 이같은 질문에 답할 수 없다”며 “결국 고객과 파트너로부터 신뢰를 잃어 시장에서 스스로를 방어할 수 없는 고립 상태에 놓일 것”이라고 전망했다.
그는 기업이 AI 신뢰성 확보 패러다임을 바꿔야 한다고 주장했다. 그는 신뢰성 확보 첫 단계는 무엇을 금지할 것인가를 고민하는 것이 아니라 어떤 AI를 책임질 준비가 됐는지를 정책적으로 먼저 고려하는 것이라고 강조했다.
박 대표는 “정책적 토대 위에서 위험 요소를 차분히 관리해 나갈 때 신뢰성은 성장 발목을 잡는 족쇄가 아니라 불필요한 사고 비용을 줄이고 산업 안전성을 확보하는 합리적이고 전략적인 기반이 될 것”이라고 말했다.