“시체잖아” 숏폼 보다 비명…PTSD 부르는 ‘끔찍 알고리즘’
네팔 대홍수 희생자의 시신에서 귀걸이를 훔치는 두 남성. 사진 네팔경찰청 엑스(X) 캡처
네팔 대홍수 이후 시신 등의 모습이 담긴 피해 영상이나 과거 다른 참사 영상에 인공지능(AI)을 덧입힌 허위·조작 정보 등이 소셜미디어(SNS)를 통해 무분별하게 확산하고 있다. 특히 허위·조작 게시글의 경우 구조나 피해 복구에 지장을 주거나 피해자들에 대한 잘못된 정보가 퍼져나가게 하는 등 부작용이 심각하며, 대형 재난 때마다 비슷한 문제가 반복되고 있어 관련 당국과 플랫폼 회사 등의 적극적 관리가 필요하다는 지적이 나온다.
지난달 31일 유튜브 등에선 두 남성이 네팔 대홍수 희생자의 시신에서 귀걸이 등 귀금속을 훔치는 영상이 수백만 조회수를 기록했다. 이 영상에는 시신의 뒷모습이 그대로 담겼다. 또 하체가 훼손된 시신을 수습하는 장면이 담긴 다른 영상도 수만 회 이상 공유되고 있었다.
네팔 홍수에서 코끼리가 물에 떠내려가는 남성을 구조하는 영상으로 인기를 끌었지만, 네팔 홍수와는 무관한 영상으로 파악됐다. 사진 SNS 캡처
AI로 만든 조작 정보나 과거 다른 참사 영상을 네팔 현지 상황인 것처럼 올린 허위 게시물도 쉽게 찾아볼 수 있었다. 엑스(X)의 한 유료 구독자 계정은 ‘네팔을 덮친 물살을 촬영하던 관광객이 순식간에 휩쓸렸다’고 언급했지만, 실제로는 2024년 중국 저장성 첸탄강에서 찍힌 영상으로 확인됐다. 급류에 떠내려가던 남성을 코끼리가 구조하는 영상도 게시 하루 만에 조회수 100만회를 넘겼지만, 과거 인도에서 촬영된 영상으로 파악됐다. SNS 알고리즘이 재난 영상을 높은 관심을 유도하는 콘텐트로 인식하면서 벌어진 현상으로 풀이된다.
━
SNS 이용자 “심장 떨려서 다른 영상으로 넘겨”
인공지능(AI)로 생성된 네팔 홍수 사칭 영상. 사진 유튜브 캡처
인터넷 이용자들의 우려도 이어지고 있다. 온라인 커뮤니티 등에는 “숏폼 영상에서 시신이 여과 없이 노출된다” “화면이 나오기 전에 심장이 떨려서 다른 영상으로 넘긴다” 등의 글이 올라왔다. 직장인 성모(34)씨는 “SNS에 올라온 네팔 현지 상황 게시물이 너무 충격적이라 공유했다가, AI 생성 영상이라는 사실을 알고 공유를 취소했다”고 말했다. 실제 일부 국내 언론도 AI 생성 콘텐트를 사용했다가 논란이 일자 기사를 삭제하기도 했다.
이에 네팔 당국은 지난달 28일 메타와 틱톡 측에 AI 생성 영상과 허위 게시물을 신속히 삭제하고, 재난 상황을 과도하게 자극적으로 전달하는 콘텐트의 노출을 줄여달라고 공식 요청했다.
소셜미디어(SNS)에 숏폼 형태로 게시된 네팔 홍수 희생자 관련 영상. 사진 인스타그램 캡처
━
이태원 참사 때도 영상 본 이들 PTSD
해외에서도 비슷한 연구 결과가 보고됐다. 지난 2021년 중국 허난성 홍수 이후 이를 직접 경험하지 않은 516명을 대상으로 한 연구에서는 재난 관련 숏폼 영상 노출 정도가 우울·불안·PTSD 관련 점수와 양의 상관관계를 보였다. 전문가들은 이처럼 참사 당사자가 아니더라도 영상이나 뉴스에 반복적으로 노출되며 트라우마를 겪는 현상을 ‘대리 외상 증후군(Vicarious Trauma)’이라고 설명한다.
국내에선 지난 1월부터 시행된 인공지능 기본법에 따라 사업자의 경우는 AI 생성 콘텐트 표시 의무가 있지만, 개인은 의무가 아니다. 사실상 플랫폼의 자율규제에 의존할 수밖에 없는 게 현실이다. 문현철 한국재난관리학회 부회장은 “재난 상황의 허위조작정보는 구조 작업을 지연시키고 유가족의 고통을 키울 수 있다”며 “악의적 유언비어 유포에는 강력한 법적 책임을 물을 필요가 있다”고 말했다. 유현재 서강대 커뮤니케이션학부 교수는 “AI 기술 발달로 허위 콘텐트 제작이 쉬워지면서 이를 놀이처럼 소비하는 현상이 나타나고 있다”며 “플랫폼의 자율 규제만으로는 한계가 있는 만큼 신고 체계와 제도적 규율을 보완하고, 악의적 유포자에 대한 처벌을 강화해 억제 효과를 높여야 한다”고 지적했다.
이아미.노유림([email protected])