AI 혐오 영상 확산에 캐나다 비상

  최근 인공지능(AI)으로 제작된 혐오 영상들이 소셜미디어를 통해 빠르게 확산되며 캐나다 내 인권 단체와 전문가들의 우려가 커지고 있다. 대표적으로 ‘아메리칸빅풋’ 틱톡 계정에 올라온 동영상에서는 미국 국기 조끼를 입은 빅풋이 LGBTQ+ 퍼레이드 현장을 차량으로 돌진하는 모습이 담겨있어 충격을 줬다.   이처럼 AI가 만들어내는 영상과 콘텐츠는 트랜스젠더, 성소수자(LGBTQ+), 유대인, 무슬림 등 소수자 집단을 대상으로 한 증오와 폭력을 조장하는 데 악용되고 있다. 캐나다 내 디지털 안전 법규는 이러한 신속한 확산과 위험을 따라잡지 못하고 있다는 지적이다.   에게일 캐나다(Egale Canada)와 캐나다 안티헤이트 네트워크(Canadian Anti-Hate Network) 등 인권단체는 AI 도구가 혐오 표현을 증폭시키고 가짜뉴스를 퍼뜨리는 무기로 변질됐다고 경고한다. 이로 인해 온라인 혐오가 현실 폭력으로 연결될 위험성이 커지고 있다.   한편, 캐나다 정부는 온라인 해악 방지법(Online Harms Act)을 재검토 중이나 입법은 지연되고 있다. 인공지능 및 디지털 혁신부는 기존 법이 AI 기반 혐오 콘텐츠를 제대로 규제하지 못하는 점을 인정하며, 국제 사례를 참고해 규제 체계를 보완해나갈 계획이다.   온타리오에 위치한 공과대학의 피터 루이스 교수는 AI 기술 발전으로 고품질 가짜 영상 제작이 누구나 가능해졌으며, 현재의 필터링 시스템만으로는 부적절한 콘텐츠를 완전히 차단하기 어렵다고 진단했다. 그는 정부, 플랫폼, 사용자, 개발자 간 협력이 시급하다고 강조했다. 임영택 기자 [email protected]캐나다 혐오 캐나다 정부 온라인 혐오 혐오 표현

2025.08.13. 7:00

[디지털 세상 읽기] 알고스피크

페이스북과 인스타그램을 위협하며 세계에서 가장 빠르게 성장하고 있는 소셜미디어인 틱톡(Tiktok)에서 근래 신조어가 쏟아지고 있다. 젊은층이 새 말을 만들어내는 것은 어제오늘의 일이 아니지만, 틱톡에서 일어나는 일은 조금 특이한 데가 있다. 알고리듬의 자동검열을 피해 가려는 성향이 짙기 때문이다. 뉴욕타임스는 이런 현상을 알고리듬과 말(speak)을 결합해 ‘알고스피크’라고 부른다고 소개하기도 했다.   가령 이런 식이다. ‘kill(죽다)’이라는 단어 대신 ‘unalive(살지 않다)’라는 말을 사용하고, ‘sex’를 ‘seggs’라고 쓰는 것이다. 물론 사전에 없는 말이지만, 그렇기 때문에 틱톡의 알고리듬이 발견하지 못한다. 이미 존재하는 단어를 완전히 다르게 사용하는 방법도 있다. 팬데믹(pandemic) 대신 파노라믹(panoramic)을 쓰고, 성소수자 그룹을 의미하는 LGBTQ에 모음을 적당히 넣어서 leg booty (다리 엉덩이)로 만든다.   틱톡은 왜 이런 단어를 검열할까. 엄밀하게 말하면 이런 단어가 금지된 게 아니다. 하지만 위에 소개된 표현들은 가짜뉴스나 혐오 발언과 자주 연결돼 있기에 해당 표현들이 들어가면 틱톡의 알고리듬이 내용과 상관없이 일단 확산을 억누르는 것이다. 따라서 콘텐트 확산을 원하는 사용자들은 신조어를 사용해 알고리듬의 빈틈을 활용한다.   지나치게 거친 방법이지만 여기에는 중요한 시사점이 있다. 소셜미디어는 사용자의 발언을 관리하고 가짜뉴스와 혐오 표현을 적극적으로 걸러내지 않으면 광고주를 끌기 힘들다는 점이다. 발언의 자유를 극대화하겠다는 일론 머스크의 트위터가 광고 수익을 내기 힘든 이유기도 하다. 박상현 / 오터레터 발행인디지털 세상 읽기 혐오 표현 혐오 발언 근래 신조어

2022.12.09. 21:46