뉴욕주 정치 캠페인에 AI 이미지 사용 금지 추진

“허위 이미지·딥페이크가 선거 과정서 유권자 오도”
선거 캠페인에 AI로 생성된 사진·영상 사용 금지

뉴욕주가 정치 캠페인에서 인공지능(AI)으로 생성한 이미지 사용을 전면 금지하는 방안을 추진한다.
 
캐시 호컬 뉴욕주지사는 11일 밝힌 성명을 통해 “AI 기술을 활용한 허위 이미지와 딥페이크가 선거 과정에서 유권자를 오도할 수 있다”며 “이를 차단하기 위한 법안을 추진할 것”이라고 발표했다.
 
해당 법안은 선거 캠페인에서 AI로 생성 및 조작된 사진이나 영상을 사용하는 행위를 금지하는 내용을 포함한다. 후보자나 정당이 상대 후보의 얼굴이나 음성을 합성해 실제와 다른 상황을 연출하거나, 허위 정보를 퍼뜨리는 데 AI 이미지를 활용하는 경우 처벌 대상이 된다.  
 
현재 뉴욕주 선거법은 정치 광고에 AI 사용 사실을 공개하도록 요구하고 있지만, AI 이미지 사용 자체를 제한하고 있는 것은 아니다.  
 

호컬 주지사는 “선거 결과를 좌우할 수 있는 중요한 시기에 악의적인 세력이 허위 정보를 퍼뜨리는 것이 어느 때보다 쉬워졌다”며 “민주주의와 선거의 신뢰성을 보호하기 위해 보다 강력한 규제가 필요하다”고 설명했다.
 
이번 조치는 최근 전국에서 AI 조작 이미지와 음성이 실제 선거에 활용되거나 유권자 혼란을 야기한 사례들이 나옴에 따른 것이다. 지난해 뉴욕시장 선거에서 앤드류 쿠오모 전 뉴욕주지사는 조란 맘다니 뉴욕시장이 손으로 밥을 먹는 모습을 묘사한 AI 영상을 공개했고, 큰 논란이 야기됐다.
 
호컬 주지사가 제안한 법안이 주의회를 통과하면, 개인이나 단체는 새로운 규정을 위반하는 이미지나 정보를 발견했을 경우 소송을 제기할 수 있게 된다.

윤지혜 기자 [email protected]