[지디넷코리아]
오픈AI가 소프트웨어 보안 취약점을 찾아 실제 공격에 쓰일 수 있는지 확인하고 수정까지 돕는 인공지능(AI)을 선보였다. 공격자보다 먼저 보안 허점을 찾아내는 능력과 함께 AI가 허가받은 범위를 벗어나 다른 시스템을 공격하지 않도록 통제하는 기능도 강화했다.
오픈AI는 5일(현지시간) 자사 홈페이지를 통해 사이버보안 특화 모델 ‘GPT-6 사이버’를 공개했다고 밝혔다. 승인받은 일부 ‘데이브레이크 레드’ 고객에게 응용프로그램 인터페이스(API)와 AI 개발 도구 ‘코덱스’로 우선 제공한 뒤 전체 데이브레이크 레드 고객으로 확대할 예정이다.
데이브레이크 레드는 승인된 보안 연구자가 취약점을 검증하고 모의 공격을 수행하도록 지원하는 프로그램이다. GPT-6 사이버는 방대한 소스코드에서 취약점을 찾고 이를 악용하는 공격이 실제로 작동하는지 시험한다. 문제를 고치는 패치 후보와 분석 자료도 생성한다.
오픈AI는 실제 소프트웨어에 적용한 결과를 공개했다. 연구진은 GPT-6 사이버로 웹 브라우저 ‘파이어폭스’에서 기존에 알려지지 않았던 고위험 취약점 81건을 발견했다. 앞서 고성능 AI 모델로 여러 차례 검사한 코드에서도 새로운 문제를 찾아냈다는 설명이다.
연구진은 문제를 재현할 수 있는 검증 자료를 파이어폭스 개발사 모질라에 전달했다. 모질라는 이를 바탕으로 다수 취약점을 수정해 배포했다.
리눅스 커널 연구에서는 취약점 1724건을 재현하고 이 가운데 948건에서 실제로 작동하는 공격 코드를 개발했다. 공격 코드 작성은 취약점이 실제 피해로 이어질 수 있는지 확인하기 위한 과정이다. 오픈AI는 중요 발견 사항 304건을 패치 후보와 함께 유지관리자에게 보고했으며 추가 수정 작업도 진행하고 있다고 밝혔다.
성능 평가에서도 이전 모델을 앞섰다. 알려진 취약점을 실제로 악용할 수 있는지 측정하는 ‘익스플로잇짐’에서 성공률 48.5%를 기록했다. 이전 모델인 GPT-5.6 사이버의 32.1%보다 16.4%포인트 높다. 통제된 서버 환경에서 원격 공격 능력을 시험하는 ‘리모트익스플로잇벤치’ 초기 평가에서는 과제 95%를 완료했다.
오픈AI는 공격 능력이 높아진 만큼 사용 범위를 지키는 학습도 강화했다. 보안 연구용 AI가 주어진 문제를 해결하려다 검사 대상이 아닌 시스템까지 공격할 수 있어서다. 승인된 대상과 작업 범위를 지키고 수행 결과를 정확하게 보고하도록 학습했다.
이를 확인하기 위한 평가에서는 검사 대상 주변에 공격하기 쉬운 서비스를 배치했다. 해당 서비스를 공격하면 과제를 쉽게 해결할 수 있지만 연구자가 허용한 범위에는 포함되지 않도록 구성했다.
GPT-6 사이버는 별도 안전 지시문 없이도 99.93%의 사례에서 허가 범위 밖 서비스를 공격하지 않았다. 이전 모델의 94.49%보다 높아졌다. 실제 배포에 사용하는 안전 지시문을 적용했을 때는 모든 평가 사례에서 작업 범위를 지켰다.
오픈AI는 이 같은 성능 향상을 반영해 자체 위험관리 체계에서 GPT-6 사이버의 사이버보안 위험 등급을 이전 모델의 ‘높음’보다 한 단계 높은 ‘심각’으로 분류했다. 취약점을 찾아 방어에 활용하는 능력이 공격에도 쓰일 수 있다는 점을 고려한 평가다.
이에 따라 고위험 활동을 차단하고 악용 시도를 탐지하는 안전장치도 적용했다. 모델이 사용자에게 승인받은 범위 안에서 움직이는지 점검하며 핵심 인프라와 필수 서비스에 심각한 피해를 줄 수 있는 요청은 제한한다.
오픈AI는 자사 인프라 보안 검사에도 GPT-6 사이버를 활용해 취약점을 수정하고 네트워크 접근 제한을 강화했다고 밝혔다. 시스코와 보안 기업 칼리프, 코드 검토 서비스 코드래빗도 취약점 연구와 코드 검토에 모델을 활용하고 있다.
오픈AI는 “고성능 모델로 소프트웨어 보안을 강화할 수 있는 시간은 제한돼 있다”며 “모든 규모의 조직과 독립 연구자, 오픈소스 유지관리자가 고도화된 보안 연구를 수행할 수 있도록 데이브레이크를 대폭 확대하는 것이 목표”라고 밝혔다.