‘성 착취 딥페이크’ 확산에 각국 제동…말레이도 xAI ‘그록’ 차단

일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 ‘그록’을 둘러싼 성 착취 딥페이크 논란이 확산되는 가운데 인도네시아에 이어 말레이시아도 접속 차단에 나섰다.

12일(현지시간) 로이터·AFP 통신 등에 따르면 말레이시아 통신멀티미디어위원회(MCMC)는 전날 성명을 내고 자국 내 그록 접속을 일시적으로 제한한다고 밝혔다.

━

“여성·미성년자 음란 딥페이크 반복 악용”

MCMC는 이번 조치에 대해 “그록이 여성과 미성년자 관련 콘텐트를 포함해 음란하고, 성적으로 노골적이며 외설스럽고, 심하게 불쾌감을 주며 동의없이 조작된 이미지를 생성하는 데 반복적으로 악용된 데 따른 것”이라고 설명했다.

MCMC는 이달 초 그록의 딥페이크 위험성과 관련해 xAI에 기술적 보호 조치를 요구하는 공문을 보냈으나, xAI 측이 “AI 도구의 설계·운영으로 인해 발생하는 내재적 위험을 해결하지 못하고 주로 사용자 신고 메커니즘에 의존했다”

이어 “(관련) 입법·규제 절차가 진행되는 동안 합리적인 예방 조치로 이번 일시적 접속 차단을 시행한다”며 “여성·아동 관련 (딥페이크) 콘텐트를 방지하는 효과적인 안전장치가 마련될 때까지 그록 접속 제한을 유지할 것”이라고 밝혔다.

━

세계 최초 차단 인도네시아…“인권·존엄 침해”

앞서 인도네시아 통신디지털부는 지난 10일 딥페이크 콘텐트 문제를 이유로 세계 최초로 그록 접속 차단 조치를 내렸다. 무티아 하피드 인도네시아 통신디지털부 장관은 “AI 기술로 생성한 가짜 음란물 콘텐트의 위험으로부터 여성과 아동 등을 보호하기 위해 정부는 그록 애플리케이션 접근을 일시적으로 차단했다”고 설명하며 “(인도네시아) 정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다”고 강조했다.

━

xAI “불편 송구”…그록 이미지 생성 서비스가 도화선

xAI는 인도네시아의 차단 조치와 관련해 엑스(X)를 통해 “불편을 드려 죄송하다”며 “이번 문제를 해결하기 위해 노력하고 있다”고 밝혔다. 최근 엑스는 그록을 활용해 간편하게 딥페이크 이미지를 생성할 수 있는 기능을 선보였고, 이 과정에서 여성과 미성년자의 이미지를 동의 없이 노출이 심한 합성 이미지로 제작·유포하는 사례가 잇따르며 비판이 커졌다.

━

미·영 정치권도 압박…“앱스토어 퇴출해야”

미국에서는 민주당 소속 론 와이든, 에드 마키, 벤 레이 루한 상원의원 등 3명이 지난 9일 애플과 구글 최고경영자(CEO)에게 서한을 보내 그록과 엑스 앱의 앱스토어 퇴출을 요구했다. 이들은 “일론 머스크가 이 충격적이고 불법일 가능성이 큰 행위들을 해결할 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다”며 “엑스의 끔찍한 행위에 눈감는 것은 귀사(애플·구글)의 콘텐트 관리 관행을 조롱거리로 만들 것”이라고 비판했다.

영국에서도 규제 압박이 이어지고 있다. 리즈 켄덜 기술부 장관은 방송·미디어 규제기관 오프콤(Ofcom)이 그록 문제와 관련해 엑스 차단을 결정할 경우 이를 지지하겠다고 밝혔고, 키어 스타머 총리 역시 아동 성 착취 이미지의 제작·유포를 “역겹고 불법적인 행위”라고 규정하며 엑스가 그록을 통제해야 한다고 강조했다.

인도 정부도 우려를 표명한 가운데, xAI는 그록의 딥페이크 콘텐트 문제와 관련해 인도 법률을 준수하겠다고 당국에 약속했다고 현지 PTI 통신은 전했다. 논란이 확산되자 엑스와 xAI는 전날부터 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자에게만 허용하는 조치를 시행했다.

━

머스크는 “검열” 반발

다만 머스크는 지난 10일 자신의 엑스 계정에서 영국 정부를 겨냥해 “영국 정부는 왜 이렇게 파시스트적인가?”라며 “그들은 검열을 위한 온갖 핑계를 찾고 있다”고 반발했다. 그는 AI가 생성한 비키니 차림의 스타머 영국 총리 합성 이미지를 리트윗하기도 했다.



한영혜([email protected])