[단독] "이국종입니다" 60만명 속았다…유튜브 AI딥페이크 쇼크

이국종 국군대전병원장을 사칭한 인공지능(AI) 딥페이크 영상이 유튜브를 통해 빠르게 확산 중인 것으로 파악됐다. 허위 정보가 알고리즘을 타고 퍼지는 상황에서도 이를 걸러내지 못하는 문제가 반복되면서 빅테크(대형 기술기업)를 향한 책임론이 커지고 있다.

26일 정보기술(IT) 업계에 따르면 유튜브 채널 ‘이국종 교수의 조언’에는 이 병원장의 사진과 그의 음성을 모방한 AI 음성을 결합한 영상이 잇따라 올라오고 있다. 지난 20일 개설된 이 채널은 일주일 만에 구독자 약 3만3000명을 모았다. 특히 ‘심장마비가 혼자 있을 때 오면, 이 10초를 모르면 죽습니다’라는 제목의 영상은 심장마비 전조 증상에 대응하는 방법으로 2초 간격으로 강하게 기침하기, 가슴 중앙 두드리기, 합곡혈 자극하기 등을 제시하고 있다.

그러나 이는 의학적 근거가 부족하거나 검증되지 않은 내용이라는 지적이 나온다. 정의석 강북삼성병원 흉부외과 교수는 “심근경색 증상이 있으면 빨리 응급실을 가는 것 외에 다른 방법은 없다”며 “중대한 응급 상황에 대한 의료 정보를 유명인을 사칭해 전달하는 점에서 더욱 위험하고 범죄적”이라고 말했다.


해당 영상은 이날 기준 조회수 약 60만회를 기록했고, 댓글도 1900개 넘게 달렸다. 댓글에는 “심혈관 질환이 있는 50대인데 꼭 기억하겠다”, “남편이 두 번 쓰러졌는데 큰 도움이 될 것 같다”는 등 내용을 사실로 받아들이는 반응이 적지 않았다. 채널은 이 밖에도 췌장암·당뇨 등 질환 관련 영상을 하루 한 편씩 올리며 구독자를 빠르게 늘리고 있다.

국방부 관계자는 “자신을 사칭한 유튜브 계정에 대해 이국종 병원장이 개인정보침해 신고 등 조치를 했다”며 “이 채널 및 유사 계정을 통한 각종 요구는 모두 사칭에 해당하니 절대 응하지 않고 각별한 주의를 당부드린다”고 밝혔다.

유명인을 사칭한 딥페이크 콘텐트는 유튜브 등 소셜네트워크서비스(SNS)에서 무분별하게 확산하고 있다. 최근에는 법륜스님을 사칭한 유사 채널이 등장해 법륜스님 측이 유튜브를 운영하는 구글에 신고하기도 했다.

미국 보안기업 리젬블 AI에 따르면, 지난해 3분기 보고된 딥페이크 2031건 가운데 48.7%가 유명인 사칭 영상이었다. 플랫폼별로는 유튜브가 29.9%로 가장 높은 비중을 차지했다. 리젬블 AI는 “SNS가 딥페이크 확산의 매개체이자 조력자로 떠오르고 있다”며 “플랫폼은 딥페이크 콘텐트에 맞서겠다고 주장하면서도, 딥페이크 제작 도구 광고로 수익을 올리는 모순을 보이고 있다”고 지적했다.

━

‘단순 매개자’? 불붙은 플랫폼 책임론

딥페이크와 허위 의학 정보 등 사회적 해악이 큰 콘텐트가 범람하면서 플랫폼의 관리·책임 범위를 둘러싼 논쟁도 다시 불붙고 있다. 그간 빅테크들은 미국 통신품위법 230조를 근거로 ‘단순 매개자’라는 입장을 유지해 왔다. 230조의 핵심은 유튜브·페이스북 등 플랫폼을 이용자가 올린 콘텐트의 ‘책임있는 발행자’로 보지 않는다는 데 있다.


그러나 최근에는 추천 알고리즘이 콘텐트 노출을 좌우한다는 점에서 이를 단순 중개가 아닌 ‘편집 행위’로 봐야 한다는 시각이 힘을 얻고 있다. 이슬람국가(IS) 테러 피해자 유족이 2023년 구글을 상대로 제기한 ‘곤잘레스 대 구글’ 소송은 유튜브의 추천 알고리즘이 테러 관련 콘텐트 확산을 도왔다는 책임을 물은 대표적 사례다.

해당 소송은 결국 원고 패소로 끝났지만, 알고리즘 책임 문제를 공론화했다는 점에서 통신품위법 적용 범위에 균열을 냈다는 평가를 받는다. 여기에 미국 법원이 25일(현지시간) 청소년 SNS 중독 관련 소송에서 구글·메타 등 플랫폼 기업의 책임을 인정하고, 600만 달러(약 90억원)를 원고에게 배상하라는 판결을 내리면서 이 같은 흐름은 더욱 뚜렷해지고 있다.

유럽연합(EU)은 2024년 디지털서비스법(DSA)을 시행해 딥페이크나 허위정보를 방치할 경우 플랫폼에 글로벌 매출의 최대 6%에 달하는 벌금을 부과할 수 있도록 했다. 유현재 서강대 커뮤니케이션학부 교수는 “여러 인식조사를 보면 이제 유튜브는 사실상 언론에 준하는 기능을 수행하고 있는데도 법적 책임은 피해가고 있다”며 “관리되지 않는 알고리즘은 더는 중립적인 기술로 보기 어려운 만큼 플랫폼의 사회적 책임을 강화하는 조치를 서둘러야 한다”고 지적했다.



이영근([email protected])