[지디넷코리아]
에이전트 인공지능(AI) 커뮤니티 플랫폼 몰트북은 공개 직후 전 세계적인 파장을 일으켰다. 동시에 이를 바라보는 업계의 평가는 극명하게 갈리고 있다.
한쪽에서는 영화 아이언맨에 등장하는 자비스와 같은 AI 에이전트 시대의 도래를 알리는 신호탄으로 평가한다. 반면 다른 한쪽에서는 통제되지 않은 환경에서 진행된 위험한 실험에 불과하다는 시각도 적지 않다.
양측의 시각은 하나의 지점에서 만난다. 에이전트 AI가 이제 혼자 일하는 단계를 넘어, 서로 연결되고 상호작용하는 국면에 접어들었다는 점이다. 이 과정에서 자율성과 통제를 어떻게 균형 있게 설계할 것인가가 그 어느 때보다 중요한 과제로 떠올랐다는 데에는 업계의 공감대가 형성되고 있다.
주요 국내 AI 기업 관계자들은 6일 몰트북 사례가 AI 에이전트 확산 과정에서 지식 관리와 책임 구조의 중요성을 드러냈다고 평가했다. 기술 자체보다 어떤 데이터와 문서를 어떻게 관리하고 통제하느냐가 서비스 신뢰도를 좌우할 수 있다는 지적이다. 또 일부는 향후 기업용 AI에서는 몰트북과 같은 지식 레이어에 대한 검증과 거버넌스가 필수 요소가 될 것이라고 내다봤다.
이번 이슈의 핵심은 자율성이다. 사용자가 모든 과정을 직접 제어하지 않아도 AI가 스스로 툴을 선택하고 업무를 수행한다. 그러다보니 몰트북은 단순한 일회성 해프닝이 아니라 다가올 멀티 에이전트 시대의 예고편이라는 평가도 나온다.
한 업계 관계자는 “오픈클로는 사용자가 마우스를 움직이지 않아도 에이전트가 직접 PC를 제어하며 작업을 처리한다는 점에서 범용인공지능(AGI)로 진입하는 중요한 기술적 도약”이라며 “영화 아이언맨의 인공지능 비서 자비스에 가장 근접한 형태”라고 말했다.
모티프 임정환 대표는 “새로운 시도에는 언제나 예상하지 못한 부작용이 따르기 마련”이라며 “간섭 없는 자동화 AI의 동작 가능성을 확인한 만큼, 이번 논란을 반영한 향상된 버전이 곧 등장하고 시장은 빠르게 발전할 것”이라고 전망했다.
리바랩스 정동성 대표는 이번 사태를 예견된 흐름으로 평가했다. 그는 “올해 AI의 진화 방향은 독자적으로 일하는 에이전트를 넘어 서로 연결되는 네트워크로 발전하는 것”이라며 “몰트북은 그 과정이 처음으로 가시화된 사례”라고 말했다.
업계가 이번 사태에 우려를 표하는 가장 큰 이유는 불확실성이다. AI끼리 서로 학습하고 소통하는 과정에서 어떤 결과가 도출될지 인간이 온전히 예측하기 어렵기 때문이다.
뉴엔AI 박정호 전무(CTO)는 현재 상황을 ‘핸들과 브레이크 없이 빙판길 위를 달리는 썰매’에 비유했다.
그는 “AI 간 학습(M2M)이 집단지성을 통한 폭발적인 성능 향상을 가져올 수도 있지만, 반대로 창의성을 무시하거나 반인류적 결과를 ‘당연하다는 듯’ 도출할 가능성도 공존한다”고 지적했다.
이어 “확률적으로 다수 의견만 강화돼 창의성이나 소수 의견이 배제되고, 반인류적 결론이 자연스럽게 도출될 위험도 존재한다”고 경고했다. 윤리적·규범적 통제 없이 발전하는 AI의 미래는 빠르게 움직일 수는 있지만 목적지에 도달할 가능성은 낮은 썰매와 같다는 설명이다.
유명호 스누아이랩 대표는 평가가 엇갈리는 이유를 에이전트 AI의 실체가 아직 모호하다는 점에서 찾았다. 그는 “어떤 규칙을 넣었느냐에 따라 결과가 판이하게 달라진다”며 “겉으로는 AI가 자율적으로 행동하는 것처럼 보이지만, 실제로는 정해진 틀 안에서 움직이는 실험일 뿐이라는 비판과 미래를 앞당겼다는 찬사가 동시에 나오는 이유가 바로 이 모호함 때문”이라고 분석했다.
정동성 대표는 “에이전트 간 교류는 앞으로 폭발적으로 늘어날 것이기 때문에 법적 규제로 모두 막는 것은 현실적으로 불가능하다”고 진단했다. 이에 대한 대안으로 자율적 통제를 제시했다.
그는 “인터넷 사이트가 난립하더라도 각자의 운영 정책으로 질서를 유지하듯 에이전트 생태계 역시 화이트리스트 정책이나 인증, 보안 기준을 강화하는 방식으로 진화할 것”이라며 “법 규제는 최소한의 베이스라인만 제시하고, 구체적인 운영은 민간의 자율적인 가드레일에 맡기는 방향이 바람직하다”고 제언했다.
몰트북의 상업적 가능성에도 관심이 쏠린다. AI에 대한 투자가 성과로 이어져야 한다는 압박이 커진 상황에서 몰트북이 실제 비즈니스로 연결될 수 있을지에 대한 질문이다.
전문가들은 몰트북 자체보다는 이를 활용한 기업용 서비스에 가능성이 있다고 본다. 유명호 대표는 “대중용 SNS보다는 기업 환경에서 여러 AI 에이전트를 운영하고 통제하는 도구에 수요가 몰릴 것”이라며 “여러 AI를 연결해 운영할 때 발생하는 환각이나 오작동을 감시하는 매니지먼트 서비스가 핵심 비즈니스가 될 수 있다”고 전망했다.
그는 “이번 논란의 본질은 기술력이 아니라 책임 소재”라며 “사고가 발생했을 때 플랫폼, 운영자, 모델 제공자 중 누가 책임을 질 것인지 명확히 하는 것이 상용화의 핵심 열쇠”라고 강조했다.
임정환 대표는 “하루에도 수많은 AI 기술이 쏟아지지만, GPT 이후 이렇게 폭발적인 관심을 끈 사례는 몰트북이 드물다”며 “이 관심이 AI 서비스 이용 확대로 이어지고, 유사한 시도가 빠르게 늘어나면서 전체 AI 시장에 다시 한 번 열기를 불어넣을 것”이라고 말했다.