[팩플] AI 기술 키우는 빅테크, 저질 AI 콘텐트와 전쟁 나섰다

빅테크 플랫폼을 필두로 저품질 인공지능(AI) 콘텐트 제재 움직임이 본격화하고 있다. 저질의 AI 콘텐트가 늘면서 사용자 경험(UX)이 악화돼 플랫폼 이탈로 이어지는 악순환을 막고, 고품질 콘텐트를 생산하는 창작자들을 독려한다는 취지다.

무슨 일이야

유튜브는 지난 15일부터 정책을 업데이트해 저품질 콘텐트를 수익 창출 대상에서 제외하겠다고 밝혔다. 회사 측은 정책 사이트에서 “대량 생산되고 반복되는 콘텐트를 더 잘 식별하기 위해 가이드라인을 업데이트하고 있다”고 밝혔다. 대상 콘텐트에 대해선 “내용은 거의 비슷하고 겉모습만 조금씩 다른 내레이션 영상을 반복적으로 업로드하는 채널, 모든 슬라이드에 동일한 내레이션을 붙여 업로드하는 채널”이라고 설명했다. 페이스북 등을 운영하는 메타도 지난 14일(현지시간) 원 게시자의 허가가 없거나 유의미한 수정이 없는 포스팅은 일정 기간 수익 창출을 금지할 예정이라고 밝혔다. 이 정책에는 영상, 이미지, 텍스트 게시물이 모두 해당한다.

국내는 어때

국내 플랫폼들도 저품질 콘텐트 관리에 나서고 있다. 네이버는 “AI가 작성한 품질이 낮은 글을 막기 위해 AI가 생성한 글의 패턴을 학습해서 동일하거나 유사한 콘텐트를 다량으로 만들어내는 등 행위를 모니터링 및 제재하고 있다”고 밝혔다. 도배나 스팸을 막는 기존 운영 정책에 근거해 모니터링하고, 정책에 위반될 경우 애드 포스트(네이버 블로그의 광고 수익 플랫폼) 등 수익화도 제한한다는 취지다.

네이버·다음은 AI를 활용한 뉴스 댓글 도배도 막으려 한다. 네이버는 뉴스 댓글을 아이디당 24시간 동안 20개, 글자수 300자로 제한해 AI로 인한 도배를 방지하고 있고, 다음 뉴스는 댓글이 작성된 후 48시간이 지나면 댓글이 사라지게 하고 있다. 다음 블로그 티스토리의 경우에도 짧은 시간에 유사한 내용을 반복 다량 작성하면 자동으로 댓글을 삭제한다.

난무하는 반복·표절

플랫폼들이 너나 할거 없이 AI산(産) 저품질 콘텐트를 규제하는 이유는 다른 사람의 콘텐트를 AI로 짜깁기해 재업로드하거나 AI 음성만 입혀 업로드하는 콘텐트가 많아지면서, 플랫폼 전체 이용 경험이 악화된다는 지적이 계속되고 있어서다. 저품질 콘텐트, 이른바 ‘AI 슬롭(slop, 쓰레기)’이 많아지고 있는 것이다.

메타는 공식 블로그에서 “같은 밈이나 동영상이 너무 자주 반복적으로 나타난다. 이는 모두의 경험을 지루하게 만들고 새로운 목소리가 전달되기 어렵게 만든다”며 “우리가 싸우고자 하는 건 다른 창작자들의 콘텐트를 허가 없이 또는 의미 있는 개선 없이 반복적으로 게시하는 것”이라고 제재 배경을 밝혔다. 이재성 중앙대 AI학과 교수는 “최근엔 한 가지 영상이 유행하면 AI를 사용해 이와 유사한 분위기로 만든 영상이 범람하는 상황인데, 이는 UX를 떨어트린다”며 “구글 등 빅테크가 이런 AI 콘텐트를 규제하기 시작하면 다른 플랫폼들도 경향을 따라가게 될 것”이라고 전망했다.

다만 이 같은 흐름은 플랫폼들이 콘텐트 생산에 AI 기술 활용을 적극 장려하는 측면과는 역행한다. 각 플랫폼들은 콘텐트 제작 과정에 쓰이는 여러 AI도구들을 최근 몇년 사이 잇달아 출시한 상황이다. 창작자들도 이로 인해 혼란을 느끼고 있다. 정책 업데이트 이후 ‘AI 영상을 업로드하면 안 되는 것이냐’는 창작자들의 항의성 문의가 줄을 잇자, 유튜브는 다시 공지를 올려 “AI 도구를 사용해 스토리텔링을 강화하는 창작자를 환영하며, 콘텐트에 AI를 사용하는 채널은 여전히 수익을 창출할 수 있다”고 공지하기도 했다. AI 도구 활용을 막는게 아니라, 반복적 저품질 콘텐트를 규제한다는 입장을 분명히 한 것이다.

실제 플랫폼들은 AI를 적절하게 사용하는 창작자에게는 장려 정책을 펼치고 있다. 르네 리치 유튜브 콘텐트 부문 총괄은 자신의 소셜미디어에서 “리액션 영상, 해설, 분석 등은 유튜브에서 오히려 환영받는 종류”라고 강조했다. 다른 사람의 저작권을 해하지 않는 선에서 새로운 AI 기술을 도입하기도 한다. 네이버는 블로그 등 텍스트 콘텐트를 네이버의 숏폼 ‘클립’ 영상으로 만들어주는 ‘오토클립Ai’를 연내 발표할 예정이다.

더중앙플러스 : 팩플

더 자세한 기사 내용이 궁금하시다면, 아래 링크를 복사해 주소창에 붙여넣으세요.

초등학생도, 직장인도 ‘유튜브 크리에이터’를 꿈꾸는 게 이상하지 않은 세상입니다. 영상 하나로 평범했던 사람을 글로벌 인플루언서로 만들어주는 플랫폼, 유튜브는 지난 20년간 레거시 미디어의 막강한 권력에서 생태계 구성원들을 해방시켰습니다. 하지만 콘텐트 민주화 시대를 연 유튜브는 역설적으로 이용자들의 콘텐트 소비를 더욱 궁핍하게 만들기도 했죠. ‘개인의 취향’을 반영한 유튜브 추천 알고리즘은 개인의 이념과 관점이 아닌 다른 콘텐트는 보여주지 않았고, 이는 사회의 분열로 이어졌습니다.

유튜브는 정치·경제·사회·문화 전 분야에 막강한 영향력을 행사하는 새로운 헤게모니가 됐습니다. 이제 유튜브를 이해하지 못하면, 세상을 이해하기 어려워진 것이나 마찬가지죠. 알면서도 모르겠는, 모르면서도 알 것 같은 이 거대 동영상 플랫폼을 ‘유튜브 연구’ 시리즈에서 톺아봅니다.

다시 TV 앞에 사람들 앉았다…본방사수 죽인 유튜브 큰그림 [유튜브 연구①]
https://www.joongang.co.kr/article/25342364

유튜브 영상 1개=1표였다면? 21대 대통령은 바뀌었을까
https://www.joongang.co.kr/article/25344099

김민정.박종서([email protected])