[지디넷코리아]
“인공지능(AI)은 혁신 속도에 비례해 위험 역시 빠르게 확산될 수 있습니다. AI 혁신만큼이나 AI 안전을 확보하는 것은AI 시대를 맞은 우리에게 가장 중요한 과제가 될 것입니다.”
류제명 과기정통부 제2차관은 1일 서울 강남구 가빈아트홀에서 열린 ‘AI 안전 국민 공감 토크콘서트’에서 “AI 대전환은 거스를 수 없는 시대적 흐름이지만 AI 기술을 바라보는 다른 시각들도 존재한다”며 이같이 밝혔다.
과기정통부가 한국정보통신기술협회(TTA), AI안전연구소와 공동 주최한 이번 행사는 국가 차원의 AI 안전 확보 방안 수립에 앞서 국민 눈높이에 맞는 정책을 설계하기 위한 소통의 장으로 마련됐다.
우리 사회에서 AI가 인간 의사결정에 미치는 영향력이 증대되면서 AI를 활용하는 것이 과연 안전한지, AI를 어디까지 신뢰할 것인지에 대한 우려가 커지고 있다. 딥페이크 범죄와 안전 기준을 우회하는 탈옥 등 악의적 목적에 따라 AI가 오·남용되는 경우도 늘어나는 상황이다.
이날 현장에서 토론 참석자들은 AI가 가져올 기회와 위험이 동전의 양면임을 거듭 강조했다. AI 활용 능력이 개인과 기업의 경쟁력을 가르는 핵심 변수로 부상하면서 단순한 도구 습득을 넘어 전문성과 결합한 활용 역량을 키워야 한다는 평가다.
김지현 SK AI위원회 부사장은 올해 미국 소비자가전전시회(CES) 현장 보고서를 지난 20년 경험과 AI를 결합해 혼자 하루 만에 완성한 경험을 소개하며 “결국 각 기업의 관점을 AI에 잘 녹여낼 수 있는 전문가 양성이 기업들의 핵심 고민이 돼야 한다”고 강조했다.
일자리 문제와 관련해선 단순한 소멸 논의보다 직능 변화에 주목해야 한다는 제언이 나왔다. 향후 수십 년 안에 일자리 20~30%가 사라질 수 있지만 더 본질적인 문제는 기존 직업 내에서 요구되는 역량과 기대치가 크게 바뀐다는 점이다. 특히 한국은 미국처럼 대규모 해고보다 신규 채용 축소 형태로 고용 충격이 나타날 가능성이 높다.
청년층이 전문가로 성장할 기회 자체가 차단되는 ‘탈숙련화’를 막는 정책 대응이 시급하다는 지적이다. 이상욱 한양대 교수는 “현재 직업을 유지하더라도 상당한 재훈련이 필요한 시대가 온다”며 “개별 기업으로선 경력직만 쓰는 게 이득이지만 국가 전체로 보면 전문가가 될 기회를 처음부터 차단하는 것은 큰 손해”라고 지적했다.
교육 현장의 변화도 화두였다. AI로 손쉽게 해결 가능한 기존 숙제와 시험이 이미 유효기간을 잃으면서 교수들은 AI 시대에 맞는 새로운 평가 방식을 실험 중이다. AI와의 대화 기록을 과제와 함께 제출하도록 하거나 암기식 필기시험 대신 구술시험을 도입하는 방식이 대안으로 부상하고 있다.
김주호 카이스트 교수는 “학생들 입장에서 AI로 숙제를 빨리 끝낼 수 있지만 그게 무슨 의미인지 회의감이 드는 것도 사실”이라며 “AI를 바람직하게 활용하도록 유도하는 교육 설계가 필요한 때”라고 말했다.
에이전틱 AI 시대의 개인정보 보호 문제도 핵심 의제로 부상했다. 챗GPT와 제미나이 등 주요 AI 서비스는 사용자가 입력한 정보를 장기 메모리에 축적하고 있으며 온디바이스 AI 환경에선 에이전트 간 정보 이전 과정에서 해킹 위험도 현실화되고 있다. AI가 일정 조율, 문서 작성 등 개인 생활 깊숙이 개입할수록 개인정보 침해 가능성은 더 커진다.
김지현 부사장은 “AI의 가장 큰 장점은 나를 팔방미인으로 만들어준다는 것이지만, 반대로 AI를 악용하면 해킹 피해도 끝도 한도 없이 커질 수 있다”고 경고했다.
안전 기준을 둘러싼 논의에선 자동차 산업이 공통 비유로 등장했다. 초기 자동차는 위험해 모험심 강한 얼리어답터만 탔을 정도였지만 대량 생산 과정에서 안전 기준이 강화되며 산업 전체의 신뢰를 얻었다.
AI도 마찬가지로 정부가 동일한 잣대를 요구할 수 있어야 하며, 안전을 비용이 아닌 경쟁력으로 인식하는 전환이 필요하다는 데 의견이 모였다. 이상욱 교수는 “안전하게 만든 것을 경쟁력으로 삼아 시장에 나가는 방향이 바람직하다”고 부연했다.
우리 정부도 AI 안전 확보를 위한 제도적 기반 마련에 속도를 내고 있다. 국내 AI안전연구소를 중심으로 주요국과 공동으로 AI 모델 안전성을 평가하고 그 결과를 공개하는 방식으로 소비자 선택권을 강화하겠다는 구상이다.
과기정통부는 AI 안전 포털 개설과 개인 기기 내 AI 안전 에이전트 탑재 방안도 초기 검토하고 있다. AI 모델 검인증 체계 구축 역시 산업 성장의 필수 장치로 보고 지속 고도화할 방침이다.
류 차관은 “브레이크를 발명하지 못했다면 자동차 산업은 시장에 나오지 못했을 것”이라며 “AI 혁신만큼이나 안전 생태계를 조성해 국민이 AI를 안심하고 활용할 수 있는 환경을 만들겠다”고 말했다.