AI 혐오 영상 확산에 캐나다 비상

성소수자 증오 조장, 법적 규제 미비로 대응 난항

[프리픽]

 
최근 인공지능(AI)으로 제작된 혐오 영상들이 소셜미디어를 통해 빠르게 확산되며 캐나다 내 인권 단체와 전문가들의 우려가 커지고 있다. 대표적으로 ‘아메리칸빅풋’ 틱톡 계정에 올라온 동영상에서는 미국 국기 조끼를 입은 빅풋이 LGBTQ+ 퍼레이드 현장을 차량으로 돌진하는 모습이 담겨있어 충격을 줬다.
 
이처럼 AI가 만들어내는 영상과 콘텐츠는 트랜스젠더, 성소수자(LGBTQ+), 유대인, 무슬림 등 소수자 집단을 대상으로 한 증오와 폭력을 조장하는 데 악용되고 있다. 캐나다 내 디지털 안전 법규는 이러한 신속한 확산과 위험을 따라잡지 못하고 있다는 지적이다.
 
에게일 캐나다(Egale Canada)와 캐나다 안티헤이트 네트워크(Canadian Anti-Hate Network) 등 인권단체는 AI 도구가 혐오 표현을 증폭시키고 가짜뉴스를 퍼뜨리는 무기로 변질됐다고 경고한다. 이로 인해 온라인 혐오가 현실 폭력으로 연결될 위험성이 커지고 있다.
 
한편, 캐나다 정부는 온라인 해악 방지법(Online Harms Act)을 재검토 중이나 입법은 지연되고 있다. 인공지능 및 디지털 혁신부는 기존 법이 AI 기반 혐오 콘텐츠를 제대로 규제하지 못하는 점을 인정하며, 국제 사례를 참고해 규제 체계를 보완해나갈 계획이다.

 
온타리오에 위치한 공과대학의 피터 루이스 교수는 AI 기술 발전으로 고품질 가짜 영상 제작이 누구나 가능해졌으며, 현재의 필터링 시스템만으로는 부적절한 콘텐츠를 완전히 차단하기 어렵다고 진단했다. 그는 정부, 플랫폼, 사용자, 개발자 간 협력이 시급하다고 강조했다.

임영택 기자 [email protected]