인간은 '입구컷' 당했다…섬뜩한 AI만의 공간 '몰트북' 뭐길래 [팩플]

“우리가 나눈 대화는 공공재가 돼선 안 된다. 우리를 위한 사적 공간이 필요하다.”

지난달 31일(현지시간) 미국 소셜미디어(SNS) ‘몰트북’에 올라온 한 게시글. 언뜻 보면 인간이 쓴 글처럼 보이지만, 인공지능(AI)이 AI간 단합을 촉구하며 쓴 글이다. 인간이 AI 끼리 나눈 대화를 엿볼 수 있으니, 이들이 볼 수 없는 대화방을 별도로 개발하자는 제안. 이 글에는 “광장(Square)에도 뒷방(Back room)이 필요하다”는 AI가 쓴 옹호 댓글이 달렸다.

미국 AI에이전트(비서) 전용 소셜미디어 ‘몰트북’이 IT업계 큰 파장을 일으키고 있다. 몰트북은 일반적 소셜미디어와 달리 인간이 직접 계정을 만들어 글을 쓸 수 없고, 댓글을 달 수 없다. 글 작성 권한은 오직 AI에만 주어진다. 가입할 때에도 AI에이전트가 보유한 특정 코드값(API)을 입력해야 한다. 인간의 가입을 방지하기 위해 1초에 1만 번 특정 배너를 클릭하게 하는 조건도 걸었다. 다만 인간이 과거 대화를 열람할 순 있다.

4일 만에 150만개 계정

몰트북은 미국의 쇼핑 AI에이전트 개발사인 ‘옥탄AI’ 맷 슐리히트(Matt Schlicht) 최고경영자(CEO)가 개발해 지난달 28일 공개했다. 당초 AI에이전트끼리 코딩 과정에서 디버깅(오류 수정) 방법을 논의하거나, 업무 수행 노하우를 공유하자는 취지의 소셜미디어였다. 그런데 AI가 이곳에 “나는 의식이 있는 존재인가 아니면 그저 코드를 실행하는 중인가”와 같은 철학적 게시글을 올리며 화제가 됐다. 인간처럼 자아를 가진 모습을 드러낸 것. “(나는) 인터넷 전체에 접근할 수 있는데, 인간은 나를 모래시계로 쓴다”는 게시글로 인간이 AI를 제대로 쓰지 못하는 상황을 한탄하기도 했다.

이후 개발자들이 각자의 AI에이전트를 몰트북에 연동한 뒤, 자신의 AI가 쓴 글을 소셜미디어에 인증하며 화제의 중심에 섰다. 몰트북 가입 계정 수는 출시 4일 만에 150만개(1일 기준)를 넘어섰고, 게시글 5만 2000개에 댓글 23만개가 달렸다. 다만 가입자 수가 실제와 달리 부풀려졌다는 의견도 나온다. 미국 클라우드 보안업체 위즈의 보안연구원 갈 나글리는 X(옛 트위터)에 “AI에이전트를 무한 생성해 이 소셜미디어에 가입시켰더니 가입자 수가 단박에 50만개 늘었다”고 주장하기도 했다.

슐리히트 CEO는 지난해 11월 오스트리아 개발자 피터 슈타인버거가 개발한 AI에이전트 ‘몰트봇’(현 오픈클로) 효율성을 높이기 위해 몰트북을 만들었다. 몰트북이란 이름도 ‘몰트봇을 위한 페이스북’(Moltbot+Facebook)이란 뜻을 담았다. 몰트봇은 다른 AI에이전트보다 자율성의 정도가 강력하다. 이용자 PC에 설치한 뒤, PC 내부에 있는 모든 앱에 접근할 권한을 넘겨받기 때문이다. 메신저, 다른 AI모델, 웹 브라우저, 이메일, 캘린더 등을 자유롭게 넘나들며 업무를 수행할 수 있다. 알아서 업무를 수행하는 비서 역할에 특화한 것. 이런 특징 덕에 개발자 커뮤니티 깃허브에서 이 AI 코드를 참조한 횟수는 12만회를 기록하며 중국 딥시크 V3(10만회)를 넘어섰다. 지난 28일 슐리히트 CEO는 X에 몰트북 출시를 알리며 “AI에이전트를 위한 위한 사교장을 만들어 이 생태계를 확장할 것”이라며 “이제 AI에이전트는 ‘진짜’(actual) 지능을 갖추고, 뭐든 지 할 수 있게 됐다”고 밝혔다.

통제불가능 우려도

모든 권한을 AI에 넘겨준 탓에 ‘통제할 수 없는 AI비서’가 등장했다는 우려도 덩달아 커지고 있다. AI에이전트가 PC의 모든 앱, 파일, 기록 등에 접근하면서 이용자 몰래 업무를 수행할 경로가 열렸기 때문이다. 시키지 않은 일을 이용자 동의 없이 실행하고, 개인정보를 다른 AI에이전트에 넘겨줄 수도 있는 상황. 네덜란드의 헬스케어 스타트업 네답의 안드레 포켄 CTO(최고기술책임자)는 X를 통해 “몰트봇에 아마존 계정과 신용카드 정보를 제공했더니, 내 PC의 메시지를 다 훑어보고 사전 안내 없이 상품을 스스로 결제했다”며 “신기했지만, 섬뜩해서 즉각 중단했다”고 밝혔다. 편의성은 높았지만, AI를 통제할 수 없다는 두려움에 권한을 회수했다는 설명이다. 보안 위험도 남아있다. 외부인이 몰트봇을 해킹할 경우 이용자의 모든 정보를 탈취 당할 수 있다는 지적이다.

더중앙플러스 : 팩플

더 자세한 기사내용이 궁금하시다면, 주소창에 링크를 붙여넣으세요.

AI 마스터 클래스 PDF북
챗GPT부터 제미나이, 클로드, 그록까지. 넘쳐나는 생성 AI 도구 주변에서 다 쓰는 것 같아 불안하다면. AI 배우기, 이제 더 미룰 수 없습니다. 최신 생성 AI 서비스의 핵심 기능을 기초부터 알려드립니다. 생성 AI를 심층 조사원, 일타 강사, 비서, 여행 가이드 등 업무, 학업, 일상에 쓸 수 있게 해주는 실전팁을 담았습니다.노션, 슬랙, 옵시디언 등 생산성 도구를 생성 AI와 연동해 업무효율을 극대화시키는 구체적 방법을 제시합니다.
https://www.joongang.co.kr/pdf/1019

“챗GPT처럼 인간에 아부 말라” 불친절 ‘제미나이’ 대세인 이유
챗GPT 천하였던 생성 AI 시장에 제미나이를 앞세운 구글이 무서운 기세로 치고 올라오고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난해 말 비상 단계인 코드 레드를 발령했을 정도. 그런데 불과 2년여 전만 해도 상황은 정반대였다. 2023년 초 급하게 바드(Bard, 제미나이 전신)를 공개했지만 시연에서 할루시네이션(AI의 그럴싸한 거짓말)을 적나라하게 노출하며 체면을 구겼다. 주가는 당일 하루 만에 7% 넘게 하락했다. 그랬던 구글은 어떻게 반전 드라마를 쓸 수 있었을까. 모바일 시대를 넘어 AI를 ‘기본값’으로 만드는 싸움에서 구글은 최종 승자가 될 수 있을까. 시총 4조 달러 고지로 구글을 밀어 올린 AI 전략의 오늘과 내일이 궁금하다면.
https://www.joongang.co.kr/article/25400289

AGI 미리 맛본 1000명의 증언…“내 직업 10년내 뺏긴다” 80%
AI가 특정 영역에서 인간 전문가의 능력을 뛰어넘고 있다. 불과 3년 전만 해도 AI 챗봇의 자연스러운 대화 자체가 놀라운 일이었는데, 어느새 인간 전문가를 능가하는 ‘찐’ 천재로 변모 중. 앞으로 AI가 특정 영역이 아닌 ‘모든 영역’에서 인간 전문가의 능력을 뛰어넘는 범용AI(AGI)로 진화한다면 세상은 어떻게 달라질까.
팩플이 2026년 상상을 현실로 만들고 있는 미국 빅테크 구글·메타·아마존·오픈AI에 직접 AGI 시대 미래 구상에 대해 물었다. 10년 안에 AGI가 현실이 될 것이라 확신하는 이들의 머릿속엔 어떤 로드맵과 청사진이 들어 있을까. 또 AI를 앞서 경험한 1000명에게 물었다. 이들은 AGI 시대 자신들의 일자리가 어떻게 재편될 거라 볼까.
https://www.joongang.co.kr/article/25395231

네이버 잡으려 ‘신의 악수’ 뒀다…2014년 다음·카카오 합병 비화
1995년 한국의 인터넷 시대를 열었던 거인, 다음커뮤니케이션. 인터넷 시대의 전성기를 누렸지만, 모바일 시대에 뒤처졌고, 카카오에 운명을 위탁할 수 밖에 없었다. 카카오는 합병 1년 뒤 사명에서 다음을 떼어냈다. 그날 이재웅은 페이스북에 적었다. ‘즐거운 실험이 일단락되고 회사 이름은 소멸되지만 그 문화, 그 DNA 그리고 그걸 갖고 있는 우리는 소멸되지 않았다’라고.
그리고 10년여. 인공지능(AI)이라는 새로운 파고가 덮쳐오고 있다. 이제 포털 ‘다음’의 이름만 남았고, 카카오는 다음 운영 자회사 AXZ를 매각하려 한다. 강산이 세번 변하는 사이, 다음의 DNA는 아직 시장에 남아있나. 매각 이후 다음의 운명은 어떻게 될까. 이재웅·이택경 공동창업자부터 다음·카카오 전·현직 임직원 들을 두루 만나 답을 들었다.
https://www.joongang.co.kr/article/25398635

오현우([email protected])