AI 워터마크, 해외는 안찍는데…"또 한국만 부담 커졌다" [AI 기본법 시행]

22일 세계 최초 ‘인공지능(AI) 기본법’이 시행되면서 생성AI로 제작해 유통하는 이미지·영상·음성에 워터마크 표시가 의무화됐다. 하지만 워터마크를 지우는 애플리케이션(앱)이 공공연히 유통되고 있는데다, 해외 앱으로 제작한 딥페이크 제작물 대부분은 표시 의무가 없어 국내 AI 업계만 족쇄를 찰 수 있다는 우려가 나온다.


‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’은 AI 생성물에 ‘AI가 생성했다’는 워터마크를 표시하는 투명성 확보 의무 규정을 두고 있다. 애니메이션·웹툰 등 식별이 쉬운 생성물은 눈에 보이지 않는 디지털 워터마크를 허용하지만, 실제와 구분이 어려운 딥페이크 생성물은 워터마크를 명확히 표시해야 한다. 개인이 아닌 사업자만 적용 대상이다.

문제는 실효성이다. 딥페이크 생성물의 상당수가 해외 앱을 통해 제작되지만, 대부분은 AI 기본법의 규제를 받지 않는다. 법은 해외 빅테크(대형 기술기업) 규제를 위해 ‘국내 대리인 지정’ 제도를 두고 있지만, 적용 요건이 글로벌 매출 1조원, 국내 매출 100억원, 일평균 이용자 100만명 중 하나를 충족해야 해 실제 대상은 구글이나 오픈AI에 그친다.

워터마크 자체를 무력화하는 사례도 적지 않다. 구글 플레이스토어에서 50만회 이상 다운로드된 한 해외 이미지 편집 앱은 화면 전체에 박힌 워터마크를 제거하는 ‘AI 지우개’ 기능을 전면에 내세워 홍보 중이다. 실제 해당 앱을 이용하면 몇 번의 클릭만으로 워터마크가 손쉽게 사라진다는 후기가 잇따른다.

‘AI 슬롭(AI Slop)’ 문제도 여전히 해법을 찾지 못하고 있다. ‘슬롭’은 음식물 쓰레기나 오물을 뜻하는 단어로, 생성AI로 무분별하게 양산된 저품질 콘텐트나 딥페이크를 가리킨다. 영상편집플랫폼 ‘카프윙’에 따르면, 국가별 인기 유튜브 채널 상위 100개 가운데 한국 기반 AI 슬롭 채널 11개의 누적 조회수가 약 84억5000만회로 1위를 기록했다. 유현재 서강대 신문방송학과 교수는 “AI슬롭은 플랫폼 규제가 핵심이지만, 미국 정부와의 마찰 우려 때문에 AI 기본법이 그 수준까지 나아가지 못한 것 같다”고 말했다.

업계의 불안감도 크다. AI 업계 관계자는 “결과적으로는 국내 기업만 추가 부담을 지는 구조가 아니냐”고 지적했다. 스타트업얼라이언스가 지난달 국내 AI 스타트업 101곳을 대상으로 한 조사에 따르면, 이중 실질적인 AI 기본법 대응 체계를 수립한 기업은 단 2%에 불과했다. 위정현 중앙대 가상융합대학장은 “유럽의 AI 법안과 비교하면 규제 일변도는 아니지만, 상대적으로 규제가 적은 미국·중국 기업과 경쟁해야 하는 국내 기업 입장에선 역차별로 느낄 수 있다”고 말했다.


정부는 시행 과정에서 산업계 의견을 최대한 반영하겠다는 입장이다. 최대 1년 이상의 유예 기간에는 위반 기업에 과태료를 부과하지 않겠다고 했다. 심지섭 과기정통부 인공지능안전신뢰정책과 사무관은 “최소한의 규제를 원칙으로 AI 산업 진흥에 방점을 둔 법률이라는 점을 강조하고 싶다”며 “AI 혁신을 저해하지 않도록 하겠다”고 말했다.



이영근([email protected])