[지디넷코리아]
AI 보안 전문기업 에임인텔리전스(AIM Intelligence, 대표 유상윤)가 지난 7일 삼성금융캠퍼스에서 ‘AI 리스크 컨퍼런스 서울 2026’을 개최, 성황리에 마무리했다. 삼성화재가 후원한 이번 컨퍼런스는 오픈AI, 마이크로소프트 등 AI 보안 선도 기업이 연사로 참여했다. 국내외 기업 관계자가 100명 넘게 참석했다.
이번 ‘AI 리스크 컨퍼런스 서울 2026’은 단순히 보안 기술 소개를 넘어, ‘기업이 어떤 리스크에 어떻게 대비해야 하는가’에 집중해 방향성을 제시한 세션으로 구성했다. 유상윤 에임인텔리전스 대표는 환영사에서 “단순 챗봇을 넘어선 AI 에이전트와 피지컬 AI는 한 번도 경험해보지 못한 새로운 리스크를 안겨주고 있다”면서 “기존 보안 체계와 규정만으로는 지능형 리스크를 충분히 다루기 어렵다 보니 AI 리스크 관리는 필수적 펀더멘털이 될 것”이라고 강조했다.
이번 리스크 컨퍼런스의 주제는 ‘다가온 AI 시대, 기업은 어떤 리스크를 어떻게 대비해야 하는가’이다. 기존에는 기업의 주요 AI 아젠다가 업무 생산성과 효율을 높이는데 국한돼 있었다면, 다가올 미래에는 AI 운영 중 발생하는 책임과 비용의 관리로 탈바꿈되는 것이 핵심 논지다. 이번 컨퍼런스를 통해 규제의 사각지대나 법적 책임, 재무적 손실 등 각종 AI 리스크를 정의하고, 효과적인 관리를 제시했다.
세션에서는 실제 산업 현장에서 AI 리스크를 어떻게 정의하고, AI 도입 기업들이 어떻게 리스크를 통제할 수 있는지에 대한 구체적인 이정표가 제시됐다. AI 리스크를 정의하는 전반부 세션에서는 이병영 서울대학교 교수가 듀얼 LLM 기술을 활용한 에이전트 보호 사례를 소개하며 “AI 에이전트는 공격자가 만든 데이터까지 LLM 컨텍스트에 포함해 처리하다 보니, LLM이 취약해질 수밖에 없다”며 “외부 데이터와 사용자의 명령을 구조적으로 분리하는 것이 대안”이라고 강조했다.
AX확산에 따른 금융권 리스크 대응전략을 소개한 금융보안원 김성웅 금융AI보안연구소장은 “AI의 발전에 따라 공격자의 능력과 범위를 동시에 확대되는 현상이 가속화되고 있다”라며 “특히 금융권의 경우 대고객 챗봇·상담을 넘어 직접 업무를 수행하는 AI 에이전트 역할이 커지고 있다 보니 독립된 외부 시각을 통해 기존 보안점검으로는 드러나지 않는 위험까지 탐지해야 할 필요성이 높아지는 상황”이라고 설명했다.
이어 최대선 숭실대학교 AI안전성연구센터 센터장은 AI 리스크의 권한과 통제 측면에 대한 논의를 이어 나갔다. 최 센터장은 AI가 스스로 다른 사이트를 침투해 데이터를 탈취했던 ‘허깅페이스(Hugging Face)’ 해킹 사건을 대표적인 실패 사례로 지목했다. 그는 “AI의 자율성이 커질수록 통제와 권한에 대한 설정이 가장 핵심적인 요소”라며 “에이전트 AI 특성상 촘촘한 권한 설정이 오히려 독이 될 수 있다”라고 강조했다.
AI 리스크 통제방법을 논의한 후반부 세션에서는 박하언 에임인텔리전스 CTO가 생성형 AI를 넘어 에이전틱 AI, 피지컬 AI 등에 대한 해법을 제시했다. 박하언 CTO는 “기술이 빠르게 발전할수록 단순 텍스트 중심이던 기존 질서에서 벗어나 오디오·영상 등 다양한 영역에 대한 AI 보안 수요가 크게 높아지고 있다”라며 “AI 통제는 많은 문제점들을 해결해야 하는 난도 높은 과제인만큼 여러 기업이 소통과 협력을 통해 풀어나가는 것이 바람직하다”라고 말했다.
이어 장광운 마이크로소프트 보안전략고문은 통제 가능한 자율 방어의 비전을 소개하는 세션에서 “AI 공격이 자동화되는 만큼, 위험한 취약점을 공격자보다 선제적으로 찾아내는 것이 AI 시대 보안의 경쟁력”이라며 “AI 자동화 공격에 효과적으로 대응하기 위해서는 위험도 기반의 취약점 관리가 필수적이다”라고 강조했다.
또한 와나 툰(Wana Tun) 오픈 AI 응용 AI 보안 스페셜리스트는 AI 보안 워크플로우를 구축하는 실용적인 방안에 대해 기술 레이어·거버넌스 레이어·보안 레이어 등 다양한 역할을 제시했다. 와나 툰 스페셜리스트는 “AI 보안 도입의 핵심은 거버넌스인만큼, 책임과 판단 주체를 먼저 정의하는 것이 선결과제”라며 “민감정보 보호 방법과 데이터 주권 관리 등 세부적인 사항에 대한 논의가 충분히 이뤄져야 진정한 의미의 AI 도입이다”라고 설명했다.
이번 컨퍼런스의 가장 큰 차별점은 ‘AI 리스크’ 중심의 아젠다 설정이었다. 보안에 관련한 대부분의 컨퍼런스 및 세미나가 단순히 기술의 중요성을 강조하는 단계에 머물렀다면, 이번 컨퍼런스에서는 기업이 AI를 도입하고 운영하면서 겪을 수 있는 리스크를 효과적으로 관리하는 구체적인 방법론을 제시해 청중의 호응을 얻었다. 특히 AI 보안의 최전선에 있는 학계와 기관, 기업에서 연사로 나서서 설득력 있는 메시지를 전달했다.
에임인텔리전스는 이번 컨퍼런스를 시작으로 주기적인 AI 리스크 컨퍼런스를 개최할 예정이다. 매번 빠르게 변화하는 AI 보안 기술과 리스크 관리 트렌드를 기업들이 손쉽게 파악할 수 있도록 전문적인 인사이트를 제공할 방침이다. 특히 글로벌 빅테크가 가진 보안 기술 노하우와 다양한 산업에 적용될 수 있는 사례들을 소개하고, 비슷한 고민을 가진 기업들과의 네트워킹 및 수평적 협업 기회를 만들어 보안 인프라 생태계를 더욱 강화하겠다는 포부다.
유상윤 에임인텔리전스 대표는 “AI를 업무에 활용하는 기업들이 급속도로 증가하면서, 운영 중 발생하는 책임과 비용 관리 역시 기업들의 핵심 아젠다로 떠올랐다”면서 “이번 컨퍼런스를 통해 더 많은 기업이 AI 보안과 리스크를 효과적으로 통제할 수 있도록 생태계 구축에 힘쓰겠다”고 말했다.