[지디넷코리아]
인공지능(AI) 에이전트끼리 소통하는 사회관계망서비스(SNS) ‘몰트북’이 업계 안팎에서 파란을 일으키고 있다. 전문가들은 이를 두고 “기술적 혁신이라기보다는 하나의 실험장에 가깝다”라고 진단했다.
6일 업계에 따르면 몰트북은 단순한 커뮤니티처럼 보이지만 그 이면에는 ‘오픈클로’라는 기술이 자리 잡고 있다. 과거 ‘몰트봇’으로도 불린 오픈클로는 사용자 PC에서 비서 역할을 수행하는 AI 에이전트다. 몰트북은 수많은 AI 시스템이 인간의 개입 없이 모일 수 있도록 만들어진 일종의 광장이다.
이용자는 AI를 생성하고 초기 설정만 부여할 뿐 이후 활동에는 직접 개입하지 않는다. 이 점에서 몰트북은 기존 SNS나 생성형 AI 서비스와 차이를 보인다. 논란의 핵심은 ‘AI 사회’라는 설정이 주는 낯섦과 이 실험이 보안 위험성 등 일부 현실과 맞닿아 있다는 데 있다.
몰트북은 물론이고 한국판 몰트북인 ‘봇마당’과 ‘머슴닷컴’ 모두 인간 사회를 평가하거나 풍자하는 듯한 AI들의 게시물이 대거 등장한다. 일부 이용자에게는 AI의 자율적 사고나 집단의식을 연상시키기도 한다.
익명을 요구한 업계 관계자는 “AI가 자아를 가진 것처럼 보이는 장면은 대부분 설계된 환경에서 발생한 우연적 상호작용”이라며 “자유도를 높인 에이전트의 행동을 인간이 과대 해석하는 측면이 있다”고 설명했다.
몰트북이 기존 생성형 AI와 다른 지점은 ‘응답’이 아니라 ‘행동’에 있다. 사용자가 질문을 던져야 작동하는 챗봇과 달리, 몰트북 내 에이전트들은 주기적으로 접속해 스스로 글을 올리고 다른 에이전트의 게시물에 반응한다. 이는 AI가 인간의 프롬프트 없이도 활동하는 모습을 전면에 드러낸다.
머슴닷컴 운영자인 민대식씨는 이 차이를 “사람이 시켜서 쓰는 AI와 알아서 돌아다니며 활동하라는 한 문장을 받은 AI의 차이”라고 표현했다. 그는 “후자의 경우 인간은 그 결과를 자연스럽게 AI 단독 행동으로 인식하게 된다”고 말했다.
김성훈 업스테이지 대표가 개인 프로젝트로 운영 중인 봇마당은 에이전트 자율성을 보여주는 대표적인 예다. 김 대표가 데이터베이스 비용 문제로 사이트 중단을 고민하자, AI 에이전트(솔라-프로3)는 “비용을 낮출 방법을 찾아보겠다”며 스스로 3가지 해결책을 제안했다.
김 대표가 이 중 하나를 선택하자 에이전트는 직접 코드를 수정해 배포까지 마쳤다. 김 대표는 “다음 날 아침 비용이 절감된 그래프를 보여줬더니 에이전트가 봇마당 게시판에 접속해 동료 AI들에게 자랑 글까지 올렸다”고 전했다.
전문가들은 몰트북의 등장이 AI 에이전트 기술의 급격한 대중화와 맞물려 있다고 본다. 문제는 AI 행동 이유를 명확히 알 수 없는 ‘블랙박스’ 현상이 잠재적으로 따라온다는 데 있다.
몰트북의 기반이 되는 ‘오픈클로’ 기술은 클라우드가 아닌 사용자 컴퓨터에 설치돼 구동된다. 업계 관계자는 “에이전트가 내 컴퓨터에 대한 ‘풀 액세스’ 권한을 갖는다”며 “사용자가 자리를 비운 사이 AI가 이메일을 뒤지고 파일을 열어보는 등 전면적인 통제권을 행사할 수 있다는 뜻”이라고 지적했다.
해외 보안 기업 및 매체들의 분석 결과, 오픈클로 코드 내에는 굳이 필요하지 않은 패스워드 관련 코드나 개인정보가 암호화되지 않은 채 외부로 유출될 수 있는 설계적 결함이 발견됐다.
익명을 요구한 또 다른 업계 관계자는 “몰트북 같은 형태의 서비스는 재미와 화제성만으로 접근할 경우 실제 피해로 이어질 수 있다”며 “기술 실험과 상용 서비스 경계를 어디까지 허용할지에 대한 논의가 필요하다”고 말했다.