[지디넷코리아]
인공지능(AI) 기본법 개정 논의가 기술 진흥과 규제의 이분법을 넘어 미래 세대 보호와 사회적 신뢰 회복이라는 근본적인 과제로 수렴하고 있다. 정부가 AI 기본법 시행 두 달 만에 일부 조항에 대한 제도 손질에 돌입한 가운데 국회에서도 현행법의 빈틈을 메우기 위한 다각적인 논의에 속도를 내고 있다.
박형빈 서울교육대학교 신경윤리가치AI융합교육연구소 소장은 31일 국회의원 연구단체 국회 인공지능(AI) 포럼이 서울 여의도 국회 의원회관에서 개최한 ‘AI 윤리 정책의 미래와 AI 기본법 개정 방향’ 특별강연에서 “신뢰 없는 혁신은 지속 불가능하고 규범은 현실을 따라가지 못한다”며 “AI 리터러시와 디지털 시민성 교육을 아우르는 국가 전략이 필요하다”고 밝혔다.
과학기술정보통신부는 지난 25일 ‘AI 기본법 제도개선 연구반’ 착수회의를 열고 배포자 정의 신설과 딥페이크 범위 한정, 고영향AI 기준 조정 등 5개 핵심 조항의 수정 방향을 내부적으로 제시했다. AI 기본법 공식 시행 두 달 만에 연구반을 가동한 것은 하위법령 마련 과정에서 수렴된 산업계 의견 중 법률 개정이 불가피한 사안이 다수 확인됐기 때문이다.
이날 포럼에선 현행법 조항 손질을 넘어 미래 세대 보호와 사회적 신뢰 회복이라는 더 근본적인 개정 방향까지 화두로 떠올랐다. 박 소장은 청소년기엔 충동 억제와 판단력이 구조적으로 취약하다는 신경과학적 근거를 제시했다. 2025년 기준 국내 고등학생의 80~90%가 생성형 AI를 사용하는 반면 전두엽이 완전히 성숙하는 시기는 여성 20세, 남성 26~27세 수준이다.
2024년 미국 플로리다에서 AI 동반자 앱과 대화하던 10대가 극단적 선택을 한 사건, 2025년 캘리포니아에서 챗GPT 보호장치를 우회해 자살 방법을 얻어낸 사건 등 해외 피해 사례도 소개됐다. 국내 상황도 이와 다르지 않다. 서울시가 진행한 청소년 스마트폰·디지털 정신건강 실태조사에 따르면 청소년 과의존 위험군이 40%에 달했고 딥페이크·사이버폭력 가해자의 60~70% 이상이 미성년자로 나타났다. 박 소장은 “AI가 우리 생각과 사고, 판단에 영향을 주는 시대에 인간 존엄성을 어떻게 지킬 것인지를 먼저 물어야 한다”고 강조했다.
유관부처 관계자와 업계 전문가들은 AI 기본법의 추가 정교화가 필요하다는 데 뜻을 같이하면서도 각자 관점에서 서로 다른 과제를 제언했다. 이지현 교육부 인공지능융합인재양성과장은 최근 진행 중인 입법 진행 상황을 공개했다. 김민전 의원이 발의한 교육기본법 개정안은 국가와 지방자치단체가 학생·교원의 AI 활용 능력 증진과 AI 윤리 교육 시책을 수립·실시하도록 의무화하는 내용을 담았다. 전날 법사위를 통과한 이 개정안은 이날 오후 본회의에 상정될 예정이다.
강경숙 의원이 발의한 인공지능교육진흥법안 경우 학생 평가 영역에서 활용되는 AI 시스템을 AI 기본법상 고영향 AI로 정의하고 영향 평가를 실시하도록 한다. 이 과장은 “AI 기술 변화 속도가 빨라 세부 규제를 모두 법령에 담기엔 적시성 한계가 있다”며 가이드라인과 지침 병행이 불가피하다고 피력했다.
최우석 과기정통부 인공지능안전신뢰지원과장은 AI 기본법의 역할 범위와 규제 설계 방식에 대한 신중론을 제기했다. 산적한 논의 사항을 AI 기본법 조항에 추가할 것인지, 기존 교육법·의료법 등 개별 법률을 고도화할 것인지를 따져야 한다는 의미다.
AI 생성물 표시 의무와 관련해선 현행 규정의 구체화 필요성을 제기했다. 해당 표시 목적이 사후 추적인지 이용자의 즉시 인지인지에 따라 의무 주체가 개발자 또는 게시자로 구분되기 때문이다. 최 과장은 “규제는 한번 만들면 풀기 어렵기 때문에 조심스럽게 설계해야 한다”고 말했다.
방은주 지디넷코리아 선임기자는 정책 논의 전제 조건을 문제 삼았다. 현행 AI 기본법은 AI를 ‘인간의 지능적 기능을 전자적으로 구현한 것’으로 정의한다. 그러나 AI가 이미 일부 영역에서 인간 지능을 넘어선 만큼 이 정의 자체를 재검토할 필요성이 있다고 지적했다.
규제 대상 중 최고 계층에 있는 고위험 AI의 기준이 10의 26승(1양) 플롭스라면서 “어떤 법이 만들어지더라도 사회적 신뢰(트러스트) 기반 없이는 각자의 입장에서 악용될 수 있다”며 우리 사회가 전반적으로 신뢰 수준이 높아져야 한다”고 덧붙였다.