“미국 타임지에 선정된 인물”이라는 허위 내용으로 인공지능(AI) 딥페이크 영상을 만들어 선거에 활용한 더불어민주당 소속 예비 후보자가 중앙선거관리위원회에 적발됐다.
선관위는 9일 민주당 울산 남을 지역위원장인 A씨를 공직선거법 위반 혐의로 경찰에 고발했다고 밝혔다. 2023년 12월 딥페이크 영상을 이용한 허위 사실 공표에 대해 가중 처벌하는 규정이 신설된 이후 최초 고발 사례다.
선관위에 따르면, 6·3 지방선거 구청장 선거에 출마하려는 A씨는 지난달 5일 “미국 시사주간지 타임지에 울산 발전을 이끌 인물로 A가 선정됐다”는 영상을 제작해 페이스북 등에 유포한 혐의를 받고 있다. 뉴스 보도 형식으로 제작된 해당 영상에는 AI 제작 영상인 점이 표기돼 있지 않았고, 영상 속 내용도 사실이 아닌 것으로 드러났다.
현행법에 따르면 딥페이크 영상임을 표시하지 않고, 당선될 목적으로 허위 사실을 유포할 경우 5년 이하 징역 또는 5000만원 이하 벌금에 처할 수 있다. 선관위는 고발 조치와 별도로 해당 영상에 AI 생성물 표시를 하지 않은 행위에 대해 A씨에게 500만원의 과태료를 부과했다.
선관위는 지난 1월에는 AI 영상 표기를 하지 않은 채 자신이 지지하는 입후보 예정자를 위한 찬양 노래를 소셜미디어에 게시한 B씨에게 과태료 500만원을 부과했다. 현행법상 선거일 90일 전까지 AI 기술 등을 활용한 선거운동이 허용되지만, AI 기술 등을 이용한 가상 정보라는 사실을 영상 등에 표기해야 한다. 이를 위반할 경우 1000만원 이하의 과태료가 부과될 수 있다.
선관위는 “지방선거를 앞두고 위법한 딥페이크 영상 등의 확산을 차단하기 위해 ‘딥페이크 등 허위 사실 공표·비방 특별대응팀’을 운영하고 있다”며 “앞으로도 유권자의 올바른 판단을 저해하고 선거의 공정성을 훼손하는 딥페이크 영상 등 유포자에 대해 강력히 대응할 방침”이라고 밝혔다.
김규태([email protected])