AI로 목소리 위조? LG유플러스 고객은 5초면 안다

가족·친구·지인의 목소리로 위변조 된 인공지능(AI) 조작 음성을 잡아내는 기술이 도입된다.

LG유플러스는 26일 AI로 조작된 음성을 잡아내는 ‘안티 딥보이스’ 기술을 오는 30일부터 자사 AI 통화 에이전트 서비스 ‘익시오’에 탑재한다고 밝혔다. 서버에 연결하지 않고 단말기 내에서만 통화내용이 저장되는 온디바이스(On-device) AI 형태로 이 기술을 상용화한 것은 LG유플러스가 처음이다.

안티 딥보이스는 통화 중인 상대의 음성이 조작됐다는 사실을 5초 만에 잡아낸다. 음성의 비정상적인 주파수나 부자연스러운 발음 등을 분석하고, 음성이 위·변조된 경우 팝업 알림을 통해 고객에게 위험을 경고한다. 지난 3월 MWC(모바일 월드 콩그레스)에서 처음 공개됐는데, 지인 혹은 기관 사칭 같은 보이스피싱 범죄가 급증하는 상황에서 큰 주목을 받았다. LG유플러스는 기술 개발을 위해 AI 엔진에 약 3000시간 분량의 통화 데이터를 학습시켰다. 통화 건수로는 200만건에 달하는 양이다. 전병기 AX그룹장(전무)은 이날 기자간담회에서 “딥보이스 생성 기술은 계속 발전하고 있어 (탐지 기술의) 업데이트 주기도 중요하다”면서 “약 6주 단위 업데이트를 고려하고 있다”고 밝혔다.

LG유플러스가 온디바이스로 이 기술을 내놓은 이유는 고객 데이터 보호를 위해서다. 분석을 위해서는 AI가 연락처부터 통화 요약까지 다양한 고객 데이터를 학습해야 하는데, 이때 회사의 서버를 거치면 개인 정보 침해 등 문제가 생길 수 있어서다. AI를 기기에 탑재하기 위해서는 용량을 낮추는 경량화 작업이 필수다.

한영섭 AI테크랩장은 “동일한 성능을 유지하면서 기기 구동에 부담을 주지 않도록 용량을 낮추는 것이 핵심”이라고 설명했다.

이날 LG유플러스는 영상이나 이미지를 분석해 AI로 합성된 흔적을 잡아내는 ‘안티 딥페이크’ 기술도 공개했다. 맨눈으로 잘 보이지 않는 픽셀 단위의 질감, 패턴의 불균형, 프레임 간 일관성이 떨어지는 현상 등을 탐지하는 것이 핵심이다. LG유플러스는 이 기술을 통해 딥페이크 영상을 이용한 범죄를 차단하고, 위·변조된 유해 콘텐트를 신속하게 식별하겠다는 계획이다.

한영섭 랩장은 “안티 딥페이크 기술은 현재 경량화 개발이 진행 중”이라며 “먼저 서버 기반에서 기술의 성능을 최대한으로 끌어올린 뒤, 사용자 개별 기기에서 일정 성능을 유지할 수 있게 구현할 계획”이라고 말했다.





어환희([email protected])