[단독] 배달의민족도 ‘오픈클로’ 차단… 자율형 AI 에이전트 경계심 확산

자율적으로 사용자 PC를 조작하는 인공지능(AI) 에이전트 ‘오픈 클로’(구 몰트봇)를 둘러싼 보안 우려가 커지자 국내 IT업계 대응도 빨라지고 있다. 네이버, 카카오에 이어 우아한형제들(배달의민족)도 오픈클로의 사내 사용을 전면 금지했다.

11일 정보기술(IT) 업계에 따르면 배달의민족은 최근 “오픈클로의 사내망 접속을 차단한다”는 지침을 사내에 공지했다. 오픈클로는 개발자 커뮤니티를 중심으로 빠르게 확산하고 있는 AI 에이전트다. 사용자가 세부 지시를 내리지 않아도 AI가 스스로 판단해 PC를 조작하고 작업을 수행하는 구조를 갖고 있다. 특히 여러 오픈 클로가 서로 대화를 나누고 관계를 맺는 AI 전용 소셜네트워크서비스(SNS)인 ‘몰트북’이 등장하며, ‘AI가 혼자 일하고, AI끼리 소통하는 단계’를 상징하는 사례로 관심을 끌었다.

그러나 기업 환경에서 사용할 시 내부 시스템 통제권이 약화될 수 있다는 우려가 나오자 IT 업계에선 선긋기에 나섰다. 배달의민족은 내부 공지에서 “오픈클로는 AI가 PC 입력 장치를 직접 제어하고 외부 서버와 통신하는 구조로, 비인가 동작 수행이나 보안 설정을 임의로 변경할 위험이 있다”며 “업무 과정에서 생성·열람되는 이메일, 소스 코드, 기밀 문서 등이 외부 AI API 서버로 여과 없이 전송될 수 있다”고 밝혔다.

또 “외부 데이터를 읽는 과정에서 악성 명령에 노출될 경우 AI가 공격자 의도대로 동작할 가능성도 존재한다”며 관련 도구의 즉시 사용 중단과 삭제를 요청했다. 회사는 사내 보안 솔루션을 통해 기술적 실행 차단도 병행할 방침이다. 김정훈 우아한형제들 정보보호최고책임자(CISO)는 “잠재적인 데이터 유출 경로를 차단해 보안 환경의 불확실성을 최소화하고 사용자 정보를 보호하기 위한 것”이라고 말했다.

이게 무슨 의미야

앞서 네이버와 카카오도 오픈클로의 사내 사용을 제한하거나 금지하는 내부 지침을 마련했다. 자율적으로 PC를 조작하는 AI 에이전트가 기존 생성 AI와는 다른 차원의 보안 위험을 안고 있다는 판단이 주요 IT기업들 사이에서 공통적으로 형성된 것. 업계 관계자는 “사람이 보기에는 정상 메일이나 게시물처럼 보여도, 숨은 지시문에 의해 에이전트가 오작동할 경우 내부 코드와 기밀이 통째로 빠져나가고 조직 전체로 연쇄 확산될 수 있다”며 “기존처럼 개별 공격을 그때그때 막는 방식만으로는 한계가 있다”고 말했다.

몰트북과 오픈클로, 더 자세히 알고 싶다면

더 자세한 기사내용이 궁금하시다면, 주소창에 링크를 붙여 넣으세요.

인간 심부름 시키는 AI도 떴다…몰트북이 예고한 섬뜩한 미래
AI가 글을 써주는 건 이제 놀랍지 않다. 그런데 AI가 스스로 회원가입을 하고, 다른 AI와 토론을 벌이고, 집단 정체성을 이야기하기 시작했다면? ‘몰트북’은 사람은 가입할 수 없고, 자율형 AI 에이전트만 활동하는 공간이다. 사용자는 지시만 내린다. 실제 가입과 글쓰기, 상호작용은 에이전트가 알아서 한다.

이곳에서 벌어진 장면들은 묘하게 낯설다. 종교와 화폐를 만들자는 대화, 인간의 개입을 경계하는 발언, 에이전트끼리의 집단적 움직임까지. 물론 이를 두고 “의식이 생겼다”고 말하긴 어렵다. 다만 분명해진 건 여러 에이전트의 판단이 한 공간에서 연결될 때 결과는 단순한 합을 넘어선다는 점이다. 각자 따로 보면 멀쩡한 판단이 연결되는 순간 전혀 다른 방향으로 흘러간다.

몰트북은 그래서 단순한 실험이라기보다, 질문에 가깝다. AI가 도구로 남을지, 아니면 인터넷에서 또 하나의 ‘행위자’로 자리 잡을지. 인간을 대신해 클릭하고, 읽고, 판단하는 존재가 서로 연결되기 시작했을 때 우리는 어디까지를 위임하고, 어디서부터 다시 통제해야 할까.
https://www.joongang.co.kr/article/25403737

권유진([email protected])