“AI 착용샷 보고 사세요” “AI 번역본 팝니다”… 이런 사업자, 규제할 방법이 없다

생성 AI를 활용해 제작했다고 표시된 제품 홍보 이미지의 모습. 사진 판매 플랫폼 캡처

생성 AI(인공지능)로 제작한 콘텐트를 활용해 제품을 판매하는 사업자가 늘며 소비자들의 오인 사례가 쌓이고 있다. 현행 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(이하 AI 기본법)에는 이들 사업자를 단순 ‘AI 이용자’와 명확히 구분해 표시 의무 등을 부과하고 있지 않다. 이 때문에 규제 공백이 있다는 지적이 나온다.

지난달 25일 X(옛 트위터)에는 고전문학 번역본을 서비스하는 앱 ‘책도둑’에 대한 소비자들의 항의가 빗발쳤다. “저작권이 만료된 세계 고전문학의 번역서 1000권을 1만9800원에 평생 소장할 수 있게 해주겠다”며 광고한 ‘책도둑’ 측이 서비스 1년이 지난 후에야 생성 AI로 제작한 번역본을 제공해왔음을 밝혔기 때문이다.

책도둑 마케터의 계정에 올라온 게시글들. 사진 X

‘책도둑’ 관계자는 이날 X에 “책값 비싼 세상에서 주머니 가벼운 분들 마음껏 읽으시라고 만든 앱이다. AI로 번역했지만 인간이 검수해 퀄리티를 보장할 수 있다”는 내용의 글을 올렸다. 하지만 “AI 번역본인 걸 알았다면 결제하지 않았을 것”이라는 소비자들의 항의가 빗발쳤다. ‘책도둑’ 측은 이 글을 올린 지 6일 만에 서비스를 종료하고, 환불 요청을 처리 중이다.

생성 AI로 제작한 이미지를 제품 판매에 활용하는 사례는 더욱 많다. 생성 AI로 만든 모델을 세워 화장품 발색 사진과 옷 착용 사진을 상세페이지에 올리는 식이다. 생성 AI로 만든 모델이 의사·약사 등 전문가처럼 보이는 옷을 입고 제품을 추천하는 이미지로 광고하는 경우도 있다.

유사한 사례가 늘자 공정거래위원회는 지난 6월 ‘추천·보증 등에 관한 표시·광고 심사지침’을 개정하여 시행 중이다. 가상 인물이 추천·보증하는 내용이 실제 발생한 경험적 사실에 부합하지 않을 경우, 부당한 표시·광고에 해당할 수 있다는 사항 등이 추가됐다.

사업자들을 대상으로 ″생성 AI를 활용해 상세페이지를 만들 수 있다″고 광고하는 교육 업체들도 있다. 사진 검색페이지 캡처

사업자들이 생성 AI를 활용해 광고하는 이유는 홍보·마케팅 비용이 절감되기 때문이다. AI 모델은 사생활 논란을 일으키지 않아 광고주의 위험부담이 없다는 장점도 있다. 시중에는 이런 효과를 원하는 사업자들을 대상으로 생성 AI 활용법을 안내하는 강의도 판매되고 있다.

하지만 지난 1월 22일부터 시행 중인 AI 기본법은 이처럼 생성 AI로 만든 콘텐트를 활용해 사업하는 이들까지 명확하게 ‘AI 사업자’로 규정하진 않는 상황이다.

━

“AI 기본법에 AI 사업자 경계 모호”

국제인공지능윤리협회 자문변호사로 활동 중인 이용해 변호사는 “현행 AI 기본법이 인공지능 투명성 확보 의무를 지운 ‘AI 사업자’의 경계가 모호하다”며 “AI를 활용해 사업하는 사람도 조문 상 ‘사업자’에 포함될 수 있지만, 상용 AI를 도구로 쓰기만 했을 경우에 그 사업자가 'AI 서비스를 제공하는 자'에 해당하는지가 불투명하다”고 지적했다. 이 변호사는 “앞으로 AI 활용 비즈니스가 많이 늘어날 것으로 예측되는 만큼 일반 이용자와 사업에 생성 AI를 활용하는 이용자를 구분할 수 있도록 법 개정이 필요하다고 본다”고 덧붙였다.

네이버 스마트스토어는 지난 6월 판매자들을 대상으로 생성 AI 활용 가이드라인을 배포해 지난달부터 시행하고 있다. 사진 네이버 스마트스토어

네이버 스마트스토어나 쿠팡 등 온라인 쇼핑몰 플랫폼은 최근 자체 가이드라인을 배포 및 시행해 임시방편을 마련하는 실정이다. 스마트스토어는 지난 6월 판매자들을 대상으로 ‘AI 생성물 사용 기준’을 공지하고 지난달 10일부터 시행 중이다. 섬네일 또는 상품 상세페이지 등에 AI를 활용해 제작하거나 변형한 이미지·영상을 게재할 경우, AI 활용 사실을 안내할 것을 권장한다. 의료기기와 유아식품, 신선식품 등 일부 품목은 AI 사용을 아예 제한했다. 기준을 위반하면 네이버쇼핑에 노출하지 않는 등 조치한다.

━

쇼핑몰 플랫폼, 자체 가이드라인 시행

쿠팡 역시 지난달 판매자들을 대상으로 ‘생성 AI 콘텐트 활용 가이드’를 공지했다. AI를 활용해 제작한 제품 홍보 콘텐트에 허위·과장 광고의 소지가 없도록 해야 한다는 내용이 골자다. 스마트스토어 관계자는 “AI 활용이 다양해짐에 따라 안전한 쇼핑 환경과 소비자 보호를 위해 AI 생성물 사용에 대한 기준을 선제적으로 마련했다”고 취지를 밝혔다.

최경진 가천대 법학과 교수는 “일반 소비자 입장에서는 맥락에 따라 생성 AI로 만든 콘텐트가 (제품 구매 등에 있어) 심각한 오해를 불러일으킬 수도 있는 상황”이라며 “10년 전 인터넷 검색 결과에 광고 표기 가이드라인을 만들었던 것처럼, 이제 생성 AI로 만든 제품을 판매하거나, 생성 AI 이미지를 활용하는 사업자를 대상으로 한 규제 여부에 대해서도 논의를 해야 할 때”라고 제언했다.



최혜리([email protected])