故이순재 고인모독→걸그룹 성범죄 피해..AI 합성 명과 암[Oh!쎈 이슈]

[사진]OSEN DB.

[OSEN=김나연 기자] 최근 AI 기술을 활용한 '딥페이크 합성' 밈이 유행처럼 번지고 있다. A2O Lite 'NEON(네온)'에서 비롯된 '미혼 앤 비혼' 챌린지, 프랑스 음악 프로젝트 제너레이션(GENER8ION)과 스웨덴 래퍼 영 린(Young Lean)의 'STORM II'에서 비롯된 '스톰 챌린지' 등이 그 예다.

기존의 챌린지가 원본을 직접 따라하는 것이었다면, 최근에는 AI 딥페이크(인공지능 기술을 활용해 특정 인물의 얼굴, 목소리, 행동 등을 실제처럼 합성하거나 생성하는 기술) 기능을 이용해 기존에 있는 뮤직비디오 영상에 자신의 모습을 합성하는 방식이 새롭게 떠오르고 있다. 이는 굳이 어려운 안무를 외우거나 촬영에 품을 들이지 않아도, 그저 사진 한장만 업로드 하면 손쉽게 자신만의 챌린지 영상을 만들 수 있다는 점에서 편의성을 갖는다. 

더군다나 AI 기술의 발전으로 더욱 정교한 구현이 가능해진 만큼 누리꾼들은 본인 뿐 아니라 다양한 유명인들의 사진을 합성해 챌린지 영상을 만들며 하나의 콘텐츠로서 즐기고 있다. 

하지만 이처럼 누구나 클릭 한번으로 간편히 AI 합성을 할수 있게 된만큼 과도한 남용과 악용 사례도 덩달아 늘어나고 있다. 꾸준히 따라붙고 있는 초상권 침해 문제는 물론, 故이순재 등 이미 세상을 등진 유명인들의 얼굴을 사용했다가 '고인모독' 논란이 불거지기도 했다.

[OSEN=인천, 조은정 기자] 제13회 아름다운예술인상 시상식이 24일 서울 강동구 스테이지 28에서 열렸다.배우 이순재가 시상식에 착석해 대화를 나누고 있다. 2023.10.24 /[email protected]

딥페이크가 범죄로 활용되는 범위도 더욱 넓어졌다. 슈퍼주니어 김희철은 자신의 얼굴과 목소리가 합성된 불법 도박 사이트 광고를 발견하고 "너무 무서워서 회사에 바로 신고했다"고 털어놓는가 하면, 배우 김선호 등은 딥페이크 사진과 영상을 이용해 금전을 요구하는 사칭 범죄에 이용돼 팬들에게 주의를 당부하기도 했다.

특히 걸그룹의 경우 노출 이미지 합성과 같은 성범죄의 위협에서 자유롭지 못한 상태다. 걸그룹을 대상으로 한 딥페이크 음란물이 조직적으로 제작 및 유통되면서 피해를 안기고 있는 것. 실제 지난 6월에는 에스파 카리나와 윈터를 대상으로 한 딥페이크 영상물을 제작해 영리 목적으로 판매한 피의자가 징역 2년 6개월을 선고받았으며, SM 측은 이밖에도 소속 아티스트들에 대한 불법 음란 합성물을 제작·유포·소지한 피의자 대부분이 검거돼 성폭력범죄의처벌등에관한특례법위반(허위영상물반포등) 등 혐의로 최대 4년에 달하는 실형을 선고 받았다고 밝혔다.

하이브 역시 산하 레이블에 소속된 뉴진스를 대상으로 딥페이크 범죄를 저지른 누리꾼을 고소해 징역 3년의 실형이 내려졌고, 아일릿과 르세라핌의 피해 사실에 대해서도 법적 대응을 이어가고 있다. 

이처럼 같은 AI 합성 기술을 사용한 '밈'과 '딥페이크 범죄'의 차이는 종이 한장에 불과하다. 시작은 단순 재미였을지 몰라도 조금만 선을 넘어도 누군가에게 피해를 입힐 수 있는 양날의 검이라는 사실을 잊지 말아야 할 것이다.

/[email protected]

[사진] OSEN DB


김나연([email protected])