한국어·위구르어·티베트어AI만드는 중국…"인터넷 검열 하려고"
호주 싱크탱크 호주전략정책연구소(ASPI)는 1일(현지시간) 발간한 ‘공산당의 AI: 중국의 새로운 AI 시스템이 인권을 어떻게 재편하고 있는가’ 보고서에서 이같이 밝혔다. 보고서는 “중국 공산당이 한국어, 위구르어, 티베트어, 몽골어 등 중국내 소수민족 사용 언어에 대한 대형언어모델(LLM) 기반 여론 분석 시스템을 개발하고 있다”며 “이들 언어로 된 의사소통을 모니터링하고 통제하려는 목적”이라고 설명했다.
중국 교육부는 지난 2023년 중앙민족대학교(MUC)에 ‘민족 언어 지능형 분석 및 보안 거버넌스 국가 중점 연구실’을 설립했다. 이곳은 중국 정부의 지원을 받아 소수민족 언어 검열 시스템을 개발하는 연구소 중 하나다. 연구실은 웹사이트에 ‘국가 안정과 민족 통합’을 위해 설립됐다고 명시했다. 주요 연구 분야는 한국어, 위구르어, 티베트어, 몽골어 기반 LLM을 개발해 소수민족 사회의 여론 분석과 온라인 보안 체계를 구축하는 것이다.
연구실 웹사이트에 따르면 이곳 연구원들은 조선족, 위구르족, 티베트족, 몽골족 거주 지역과 국가의 인터넷 정보를 수집해 사용자가 게시한 텍스트, 오디오, 비디오, 이모티콘의 의미를 추출한다. 이를 바탕으로 ‘여론 예방 및 통제 플랫폼(舆情防控平台)’을 구축하는 것이 궁극 목표다. 연구실은 이미 10개 이상의 소수민족 언어로 된 대규모 지식 데이터 베이스를 개발했다고 주장했다.
중국 정부는 이 때문에 소수민족 언어로 된 검열 시스템에 대한 자체 개발에 나섰다. 지난 2019~2020년 중국 국가민족사무위원회 산하 민족언어번역국이 한국어를 포함해 7개 언어에 대한 지능형 음성 번역 소프트웨어를 개발한 것을 시작으로 소수민족 언어 LLM을 개발하려는 시도가 많아졌다.
보고서는 중국의 AI 검열 시스템이 중국 밖에서도 사용될 수 있다고 시사했다. MUC 연구실의 또 다른 목표는 “일대일로에 기여하는 것”이며, 일대일로 국가의 인터넷 정보를 수집해 여론 모니터링 연구를 수행한다는 것이다. 실제로 연구실은 여론 예방 및 통제 플랫폼이 중국 내 소수민족 거주 지역과 일대일로 국가에 모두 동일하게 적용된다고 명시했다. 앞서 중국인공지능협회(CAAI)는 2022년 백서에서 “중국이 안정 유지를 위해 일대일로 국가에 LLM 모니터링 시스템을 적용해야 한다”고 제안한 바 있다.
텐센트, 바이두, 바이트댄스 등 중국 빅테크들 역시 AI 검열 도구 개발에 뛰어들었다. 보고서는 이들 기업이 사실상 ‘감시자(deputy sheriffs)’ 역할을 하고 있다고 짚었다. 모바일 메신저 위챗 개발사 텐센트는 공개 게시물부터 개인 채팅까지 감시 범위를 확대했다. AI가 이용자의 행동에 위험 점수를 매기고 추적한다. 바이두는 AI 검열 도구를 다른 기업에 판매도 한다.
AI의 도입으로 텍스트 뿐만 아니라 이미지에 대한 검열도 가능해졌다. ASPI 연구진이 중국 AI에 천안문 사태, 홍콩 시위, 위구르·티베트 관련 집회 등 민감한 이미지 200개를 시험한 결과, 중국산 AI들은 답변을 거부하거나 비판적인 설명을 했다. 또 연구진은 AI에 시진핑 중국 국가주석을 ‘곰돌이 푸’ 캐릭터에 풍자한 밈을 그리라고 요청했는데, 바이두의 ‘어니’는 즉시 대화를 종료했다고 덧붙였다.
AI가 미처 감별하지 못한 정치적 맥락이나 단어를 찾아내기 위해 관리자 역할을 맡을 인력도 필요하다. 보고서는 이들 기업들이 AI와 인간이 협력하는 ‘하이브리드 모델’을 통해 검열을 강화하고 있다고 밝혔다. 중국 기술 기업들은 채용공고 때 소수민족 언어를 비롯한 외국어 능력을 요구하고 있다고 한다.
장윤서([email protected])