[지디넷코리아]
앞으로 공공기관이 정책을 세우거나 의사결정을 내릴 때 인공지능(AI)을 활용할 수 있는 법적 근거가 마련된다. AI 판단에 따른 최종 책임을 누가 어떻게 질지, 국민이 그 결과에 이의를 제기할 방법은 무엇인지에 대해서는 아직 제도적 뒷받침이 부족하다는 지적이 나온다.
22일 업계에 따르면 공공 부문의 AI 도입·활용을 촉진하는 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률(인공지능데이터행정법)’이 오는 28일 시행된다. 지난 1월 ‘데이터기반행정 활성화에 관한 법률’을 개정한 것으로, 공공부문이 데이터를 활용하는 데 그치지 않고 AI 도입·활용까지 제도적으로 뒷받침하는 것이 골자다.
이를 위해 데이터통합관리 플랫폼의 구축·운영 범위에 AI 활용 관련 사항을 추가하고 여러 공공기관이 AI를 공동으로 도입·활용할 수 있는 근거를 마련했다. AI 활용 윤리기준과 국민 기본권에 미치는 영향을 살펴보는 공공분야 AI 영향평가도 새로 도입됐다. 또 기존 데이터기반행정 책임관을 AI·데이터 기반 행정 책임관으로 확대 개편해 학습용데이터 관리와 AI 위험관리 등을 총괄하도록 했다.
공공기관이 AI를 정책 수립이나 의사결정에 활용할 경우 최종적인 권한과 책임은 해당 공공기관에 있다는 점도 명시했다. 개인정보 보호, AI·데이터의 편향성, 의사결정의 투명성 등을 고려하도록 하는 조항도 함께 담겼다.
국회입법조사처는 최근 발간한 ‘이슈와 논점’ 보고서에서 법적 기반 마련만으로 AI·데이터 기반 행정서비스 실현과 대국민서비스 혁신 등의 성과가 담보되지는 않는다고 말했다. 데이터 공유와 품질관리, AI의 신뢰성·책임성, 거버넌스와 보안까지 뒷받침돼야 실효성을 거둘 수 있다는 진단이다.
우선 데이터 공유 체계부터 한계로 지목됐다. 공동활용이 필요한 데이터의 등록 여부가 여전히 개별 기관 판단에 맡겨져 있어 충분한 축적을 담보하기 어렵다는 것이다. 학습용데이터 품질관리 수단도 미비하다는 평가다. 법이 정한 ‘적정한 품질수준’이라는 표현이 추상적인 데다 이를 구체화할 위임규정도 없어 기관별 편차가 우려된다.
AI의 신뢰성·안전성 확보에도 공백이 있다. 공공분야 AI 영향평가는 면제 범위가 넓고 도입 전 사전평가 위주로 설계돼 운영 중 발생하는 오류·편향을 지속적으로 점검할 체계가 부족하다.
거버넌스와 보안 체계 역시 구체화가 필요하다는 지적이다. 데이터 수집부터 AI 운영에 이르는 각 단계의 책임 주체가 불명확해 책임 공백이 생길 수 있고 사이버보안·정보보호 등 관련 부서 간 협업 체계도 마련되지 않았다.
이 같은 문제를 보완하기 위한 방안도 함께 제시됐다. 보고서는 데이터를 원칙적으로 통합관리 플랫폼에 등록하도록 하고 예외 사유를 법률에 명시해 기관장의 재량을 축소해야 한다고 제안했다. 학습용데이터에 대해서는 품질관리 기본원칙을 법률에 규정하고 세부 기준은 행정안전부장관이 표준으로 고시하는 방안을 제시했다.
국민의 권리·의무에 중대한 영향을 미치는 결정에는 사람이 AI 판단을 검토·수정할 수 있는 절차와 이의제기·재검토 요청 절차를 법률에 명확히 규정할 것을 주문했다. 책임관 협의회의 범정부적 협력 기능도 강화해야 한다고 덧붙였다.
김인태 국회입법조사처 입법조사관은 보고서에서 “AI·데이터 기반 행정이 실질적인 성과로 이어지려면 데이터의 공유와 품질관리에서부터 AI의 신뢰성·책임성 확보, 이를 뒷받침하는 거버넌스와 보안체계에 이르기까지 후속 제도 정비가 필요하다”고 강조했다.