선관위 '딥페이크 찬양가'에 "불법 선거운동", 첫 과태료 500만원

경상북도 안동시선거관리위원회가 인공지능(AI) 딥 페이크 기술로 권기창 경북 안동시장을 노골적으로 치켜세우는 ‘시장 찬양가’를 제작하고 유포한 이들에게 과태료 500만원씩을 부과했다. 공직선거법을 위반했다는 판단인데, 2023년 공직선거법에 딥 페이크 영상 선거운동을 제한하는 조항이 신설된 뒤 내려진 첫 과태료 처분이다.

안동시선관위는 “AI를 이용해 지방자치단체장을 찬양하는 ‘찬양가’를 제작해 공개된 장소에서 선거구민에게 들려준 A씨와, 이를 (딥 페이크라는 표시 없이) 단체 대화방에 유포한 B씨에게 각각 과태료 500만원을 부과했다”고 22일 밝혔다. 선관위는 A씨의 경우 공식 선거운동 기간 이전에 선거운동을 한 혐의로 경찰에도 고발했다.

A씨가 제작하고 B씨가 유포한 노래는 지난 10월 21일 부산 해운대에서 열린 안동시설관리공단 워크숍에서 재생돼 논란이 됐다. AI 음성으로 제작된 이 노래에는 “하루를 시작하며 시민 곁에서 계신 그 미소 속에 사랑이 넘쳐요”, “권기창 시장님! 우리 마음의 등불”, “정직한 땀방울로 꿈을 피우는 그대, 안동의 내일을 밝혀요” 등의 가사가 담겼다. 노래가 소셜미디어 등을 통해 지역 내 확산하며 “김정은 찬양가 같다”는 등의 논란을 사자 안동시선관위가 선거법 위반 여부 조사에 착수했었다.

AI 기술로 실존 인물의 이미지나 음성 등을 구현하는 ‘딥 페이크’ 기술은 코로나19로 대면 선거운동에 한계가 컸던 지난 20대 대선부터 활발하게 이용됐다. 당시 윤석열·이재명 후보 측 캠프에선 각각 ‘AI 윤석열’, ‘AI 이재명’을 제작해 공약 설명, 챗봇 대화에 나섰다.

다만 AI 이미지를 이용한 허위 메시지가 퍼지는 등 악용도 잇따랐다. 2022년 지방선거를 앞두고 남해군수 후보가 ‘AI 윤석열’이 자신을 지지하는 영상물을 제작하고, 지난 대선 기간 이재명 대통령이 특정 투자 플랫폼을 홍보하는 듯한 영상이 AI로 제작돼 유포되기도 했다.

유권자에 혼란을 줄 여지가 크다는 우려가 이어지자 2023년 공직선거법에 ‘선거일 전 90일 전 선거운동을 위해 딥 페이크로 제작된 음향·이미지 등을 제작·편집·유포·상영할 경우 해당 영상이 AI로 제작됐다는 사실을 명확히 표시하지 않으면 1000만원 이하의 과태료를 부과한다’는 조항이 신설됐다. A·B씨에게 이에 따른 첫 과태료가 부과된 것이다.

중앙선관위는 “내년 6·3 지방선거를 앞두고 위법한 딥 페이크 영상 등의 확산을 차단하기 위해 지난 5일부터 ‘딥 페이크 등 허위사실공표·비방 특별대응팀’을 운영하고 있다”고 밝혔다.





김나한([email protected])