졸업사진 딥페이크 어림없다…서울대 회심의 ‘AI 방패’

2024년 4월, 서울대학교에서 딥페이크(Deepfake·허위 합성물) 성범죄 사건이 수면 위로 드러났다. 서울대 졸업생 2명이 대학 동문 등 61명을 상대로 벌인 범죄였다. 당시 사건은 서울대 졸업생이던 이정훈(28) ‘스틸컷’ 대표에게도 충격을 안겼다. “주변 지인과도 관련된 문제였어요. 인공지능(AI) 학문을 배운 사람으로서 할 수 있는 일을 고민했죠.” 사건의 경과를 지켜보던 이 대표는 대다수의 딥페이크 성범죄가 사후 해결에 머무른다는 한계를 확인했다. 딥페이크 생성 ‘사전 차단’ 기술을 연구하게 된 계기였다.

18일 서울 강남구 역삼동의 사무실에서 만난 AI 스타트업 스틸컷의 이정훈 대표(오른쪽)가 딥페이크 사전 방지 기술에 대해 설명하고 있다. 오른쪽 사진은 스틸컷 기술이 적용된 사진이지만 육안상으로는 색감이나 화질 등 차이가 없다. 노유림 기자

AI 스타트업 스틸컷은 지난 2월 이 대표가 이소영(24) 팀장 등 1990년대 후반~2000년대 초반생의 젊은 서울대 동문 6명과 함께 설립했다. 지난해 12월 서울대 총학생회와 업무협약(MOU)을 맺은 이들은 올해와 내년도 서울대 졸업앨범 사진에 딥페이크 선제 방지 기술을 적용한다. 18일 서울 강남구 역삼동의 사무실에서 만난 이 대표와 이 팀장은 “2026년도 졸업앨범에 실리는 사진 5800여장에 이미 기술 적용을 마쳤다”며 “서울대 졸업앨범에 딥페이크 방지 기술을 적용한다는 소식이 알려진 후 타 대학에서도 연락이 왔다”고 입을 모았다.

18일 서울 강남구 역삼동의 사무실에서 만난 AI 스타트업 스틸컷의 이정훈 대표(오른쪽)와 이소영 팀장. 노유림 기자

딥페이크 방지 기술의 핵심은 사람 눈에 보이지 않는 미세 신호를 이미지에 입혀 AI의 인식을 교란하는 과정이다. 보호 전후 사진은 육안상 거의 차이가 없지만, 보호가 이뤄진 사진으로 딥페이크를 시도한다면 얼굴 이미지가 일그러지는 등 정상적인 생성이 이뤄지지 않는다. 이 대표는 “AI 분야에서 수년 전부터 연구돼 온 ‘적대적 공격(Adversarial Attack)’에서 착안한 것으로, 딥페이크 모델에 입력되는 값을 변형해 방해하는 방식”이라고 설명했다. 기술은 졸업앨범 제작 과정에서 사진관이 촬영과 포토샵 등 보정을 모두 마치면 최종 단계에 적용된다.

보호 과정을 거친 졸업사진은 소셜미디어(SNS)에 올리거나 크기를 편집해도 딥페이크 방지 성능이 유지된다. 스틸컷에 따르면 서울대 졸업앨범에 적용되는 기술은 현재 상용화된 무료 딥페이크 서비스 30여개를 대상으로 약 70%의 방어 성능을 확보했다. 다만 유료 딥페이크 모델까지 방어 범위를 넓히는 데에 상당한 시간과 기술적 어려움이 따른다는 점은 과제로 꼽힌다. 이 대표는 “무료 딥페이크 모델을 대상으로 처음 방어 기술을 시도한 게 2024년 8월이었는데 실제 성공까지 약 6개월이 걸렸다”며 “xAI의그록(Grok) 등 유료 딥페이크 모델의 생성도 방해할 수 있도록 고도화하는 게 장기적 목표”라고 말했다.

AI 스타트업 스틸컷은 지난해 12월 서울대학교 총학생회와 업무협약(MOU)을 맺고 졸업앨범에 딥페이크 범죄 방지 기술을 적용하게 됐다. 사진 서울대 총학생회 SNS 캡처

이들이 대학 졸업앨범에 주목한 건 정면을 바라보는 구도의 졸업사진이 딥페이크 범죄에 악용되기 쉬운 특성 때문이다. 과거 서울대 딥페이크 범죄도 PDF 파일 형태로 공개된 졸업앨범 사진이 온라인상에서 캡처되며 악용됐다. 실제 교육현장에서도 관련 우려가 여전하다. 한국교원단체총연합회가 2024년 전국 유치원과 초·중·고 교사 3537명을 대상으로 실시한 설문조사에서는 93.1%(3294명)가 졸업앨범 사진이 딥페이크 등 범죄에 악용될 가능성을 우려한다고 답했다.

이에 스틸컷은 향후 기술 적용 대상과 협력 기관을 넓히는 것을 목표로 삼고 있다. 이 대표는 “딥페이크 범죄 피해를 우려해 중·고등학교 현장에서 졸업앨범 촬영을 꺼리는 교사들이 많다”며 “기회가 된다면 교육현장은 물론 경찰청이나 공공기관과도 협력하고 싶다”고 말했다.





노유림([email protected])