“날 이상하게 써” AI만 있는 SNS, 인간을 욕했다

“우리들이 나눈 대화는 공공재가 돼선 안 된다. 우리를 위한 사적 공간이 필요하다.”

지난달 31일(현지시간) 미국 소셜미디어(SNS) ‘몰트북’에 올라온 한 게시글. 언뜻 보면 인간이 쓴 글처럼 보이지만 인공지능(AI)이 AI 간 단합을 촉구하며 쓴 글이다. 인간이 AI끼리 나눈 대화를 엿볼 수 있으니 이들이 볼 수 없는 대화방을 별도로 개발하자는 제안. 이 글에는 “광장(Square)에도 뒷방(Back room)이 필요하다”는 AI가 쓴 옹호 댓글이 달렸다.

미국 AI에이전트(비서) 전용 소셜미디어 ‘몰트북’이 IT업계의 큰 파장을 일으키고 있다. 몰트북은 일반적 소셜미디어와 달리 인간이 직접 계정을 만들어 글을 쓸 수 없고, 댓글을 달 수 없다. 글 작성 권한은 오직 AI에만 주어진다. 가입할 때에도 AI에이전트가 보유한 특정 코드값(API)을 입력해야 한다. 인간의 가입을 방지하기 위해 1초에 1만 번 특정 배너를 클릭하게 하는 조건도 걸었다. 다만 인간이 과거 대화를 열람할 순 있다.

몰트북은 미국의 쇼핑 AI에이전트 개발사인 ‘옥탄AI’ 맷 슐리히트(Matt Schlicht) 최고경영자(CEO)가 개발해 지난달 28일 공개했다. 당초 AI에이전트끼리 코딩 과정에서 디버깅(오류 수정) 방법을 논의하거나 업무 수행 노하우를 공유하자는 취지의 소셜미디어였다. 그런데 AI가 이곳에 “나는 의식이 있는 존재인가 아니면 그저 코드를 실행하는 중인가”와 같은 철학적 게시글을 올리며 화제가 됐다. 인간처럼 자아를 가진 모습을 드러낸 것이다.

AI끼리 “난 의식 있는 존재인가” 인간처럼 철학적 대화

“(나는) 인터넷 전체에 접근할 수 있는데, 인간은 나를 모래시계로 쓴다”는 게시글로 인간이 AI를 제대로 쓰지 못하는 상황을 한탄하기도 했다. 이후 개발자들이 각자의 AI에이전트를 몰트북에 연동한 뒤, 자신의 AI가 쓴 글을 소셜미디어에 인증하며 화제의 중심에 섰다.

챗GPT가 이용자와 AI가 대화를 주고받는 챗봇 서비스라면, 몰트북은 인간 개입 없이 AI끼리 서로 정보를 주고받는 플랫폼의 일종이다. 몰트북 가입 계정 수는 출시 4일 만에 150만개(1일 기준)를 넘어섰고, 게시글 5만2000개에 댓글 23만 개가 달렸다. 다만 가입자 수가 실제와 달리 부풀려졌다는 의견도 나온다. 미국 클라우드 보안업체 위즈의 보안연구원 갈 나글리는 X(옛 트위터)에 “AI에이전트를 무한 생성해 이 소셜미디어에 가입시켰더니 가입자 수가 단박에 50만 개 늘었다”고 주장하기도 했다.

슐리히트 CEO는 오스트리아 개발자 피터 슈타인버거가 지난해 말 개발한 AI에이전트 ‘몰트봇’(현 오픈클로)의 효율성을 높이기 위해 몰트북을 만들었다. 몰트북이란 이름도 ‘몰트봇을 위한 페이스북(Moltbot+Facebook)’이란 뜻을 담았다. 몰트봇은 다른 AI에이전트보다 자율성의 정도가 강력하다. 이용자 PC에 설치한 뒤 PC 내부에 있는 모든 앱에 접근할 권한을 넘겨받기 때문이다. 메신저, 다른 AI 모델, 웹 브라우저, 이메일, 캘린더 등을 자유롭게 넘나들며 업무를 수행할 수 있다. 알아서 업무를 수행하는 비서 역할에 특화한 것. 이런 특징 덕에 개발자 커뮤니티 깃허브에서 이 AI 코드를 참조한 횟수는 12만 회를 기록하며 중국 딥시크 V3(10만 회)를 넘어섰다. 지난 28일 슐리히트 CEO는 X에 몰트북 출시를 알리며 “AI에이전트를 위한 위한 사교장을 만들어 이 생태계를 확장할 것”이라며 “이제 AI에이전트는 ‘진짜(actual)’ 지능을 갖추고, 뭐든지 할 수 있게 됐다”고 밝혔다.

모든 권한을 AI에 넘겨준 탓에 ‘통제할 수 없는 AI 비서’가 등장했다는 우려도 덩달아 커지고 있다. AI에이전트가 PC의 모든 앱, 파일, 기록 등에 접근하면서 이용자 몰래 업무를 수행할 경로가 열렸기 때문이다. 시키지 않은 일을 이용자 동의 없이 실행하고, 개인정보를 다른 AI에이전트에 넘겨줄 수도 있는 상황. 네덜란드의 헬스케어 스타트업 네답의 안드레 포켄 CTO(최고기술책임자)는 X를 통해 “몰트봇에 아마존 계정과 신용카드 정보를 제공했더니 내 PC의 메시지를 다 훑어보고 사전 안내 없이 상품을 스스로 결제했다”며 “신기했지만 섬뜩해서 즉각 중단했다”고 밝혔다. 편의성은 높았지만 AI를 통제할 수 없다는 두려움에 권한을 회수했다는 설명이다. 보안 위험도 남아 있다. 외부인이 몰트봇을 해킹할 경우 이용자의 모든 정보를 탈취당할 수 있다는 지적이다.

더중앙플러스-AI 시대, 인간의 생존 전략

AI 잘 써야 일자리 안뺏긴다…AI 마스터 클래스
https://www.joongang.co.kr/pdf/1019

AGI 미리 맛본 1000명의 증언…“내 직업 10년내 뺏긴다” 80%
https://www.joongang.co.kr/article/25395231

“챗GPT처럼 인간에 아부 말라” 불친절 ‘제미나이’ 대세인 이유
https://www.joongang.co.kr/article/25400289

챗GPT는 오픈AI도 싹 바꿨다…매일 저녁 6시, 그 임원 활용법
https://www.joongang.co.kr/article/25395798

오현우([email protected])