“AI 무기, 시험 잘 봤다고 믿을 수 있나”…씽크포비엘, 검증 중요성 강조

[지디넷코리아]

인공지능(AI)을 적용한 무기가 실제 전장에서 안전하게 작동하는지 판단하려면 시험 데이터부터 검증해야 한다는 주장이 나왔다. AI가 높은 평가 점수를 받더라도 실제 전장 상황을 충분히 반영하지 못한 시험이라면 위험을 놓칠 수 있다는 지적이다.

AI 신뢰성 검증 기업 씽크포비엘은 17일부터 18일까지 충남대학교 정심화국제문화회관에서 열린 ‘2026 민·군 겸용 기술 협력 국제 포럼(GDIF 2026)’에서 국방 AI 신뢰성 검증 기술과 연구 성과를 소개했다.

박지환 씽크포비엘 대표는 행사 둘째 날 ‘전장 설계 데이터의 충실도와 국방 AI 견고성 평가’를 주제로 발표했다. AI 무기가 다양한 전장 환경에서도 정상적으로 작동하는지 확인하려면 실제 상황을 반영한 검증 체계가 필요하다고 강조했다.

씽크포비엘은 충남대 정심화국제문화회관에서 열린 ‘2026 민‧군 겸용 기술 협력 국제 포럼(GDIF 2026)’ 행사에서 AI 무기의 올바른 신뢰성 검증 방법을 국내외 군과 정부 부처, 방산기업 관계자에 소개했다. (사진=씽크포비엘)

특히 AI 성능을 평가하는 데이터가 실제 전장 상황을 얼마나 충실히 담고 있는지가 중요하다고 설명했다. 시험 환경이 제한적이면 예상하지 못한 상황에서 AI가 잘못 판단할 위험을 충분히 확인하기 어렵기 때문이다.

씽크포비엘은 이를 위해 ‘데이터 충실도’ 진단 기술을 활용하고 있다. AI 평가에 사용하는 데이터가 실제 운용 환경을 제대로 반영하는지 확인하는 기술이다. 회사는 국제표준에 대응한 검증 체계를 마련해 다양한 조건에서 AI 무기 신뢰성을 평가할 수 있다고 설명했다.

이러한 검증 결과는 군이 AI 무기에 어느 수준까지 판단과 작업을 맡길 수 있는지 결정하는 근거로 활용할 수 있다. 단순히 AI 성능 점수를 확인하는 데 그치지 않고 실제 운용 과정에서 발생할 위험까지 살펴야 한다는 취지다.

씽크포비엘은 국방 AI 검증 역량을 강화하기 위해 프랑스 AI 전문기업 누말리스와도 협력하고 있다. 누말리스는 다양한 조건에서도 AI 모델이 안정적으로 작동하는지 평가하는 강건성 검증 기술을 보유한 기업이다.

양사는 지난해부터 씽크포비엘의 데이터 충실도 진단 기술과 누말리스의 AI 강건성 평가 기술을 결합한 통합 플랫폼을 구축하고 있다. 이를 통해 국방 AI가 마주할 다양한 상황을 평가하고 위험을 확인하는 체계를 마련할 계획이다.

국내 국방 분야 연구도 이어가고 있다. 씽크포비엘은 2024년부터 올해까지 3년 연속 국방기술품질원 연구개발 사업 용역을 수행했다.

2024년에는 AI 적용 무기체계 평가방안을 연구했고, 지난해에는 국방 음성인식 AI 품질 확보 방안을 다뤘다. 올해는 AI 안전성과 강건성을 평가하기 위한 인프라 구축 연구를 수행하고 있다.

씽크포비엘은 이 과정에서 전역 군인 등 국방 분야 전문가들과 협력해 실제 군 운용 환경과 요구사항을 검증 기술에 반영하고 있다. 이번 포럼에서도 군과 정부, 방산기업 관계자들에게 관련 기술을 소개했다.

박지환 씽크포비엘 대표는 “군의 무기 체계가 빠르게 진화하는 만큼 이를 검증하는 기술도 함께 발전해야 하는데, 과거 검증 방법으로 미래 기술을 평가하면 새로운 기술이 가진 위험을 발견 못 한 채 안전하다는 착각에 빠질 수 있다”고 말했다.

이어 “AI가 시험에서 몇 점을 받았는지 묻기 전에, 그 시험지에 우리가 마주할 전장이 제대로 있었는지부터 물어야 한다”며 “일반적으로 알려진 데이터 품질만으로는 전장 환경에서 AI 무기 안전을 제대로 확보할 수 없다”고 강조했다.

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다