[단독]AI챗봇이 몰래 학습한 내 개인정보 얼마?…法 "최대 40만원 배상"

인공지능(AI) 챗봇이 허락없이 내 메신저 대화 내용을 학습에 활용했다면, 손해배상 받을 수 있을까. 5년 전 정보기술(IT) 업계 뜨거운 관심을 받았던 AI 챗봇 ‘이루다’ 관련 개인정보 유출 소송에서 법원이 일부 피해자들에게 10만~40만원을 배상하라고 판결했다. AI 챗봇 서비스 시장에서 개인정보 관리가 향후 핵심 변수로 부상할 전망이다.

무슨 일이야

14일 IT업계에 따르면 서울동부지법 민사 15부는 ‘AI 챗봇 이루다 개인정보 유출 사건’ 피해자 246명이 제작사인 스캐터랩을 상대로 낸 손해배상소송에서 지난달 12일 원고 일부 승소 판결했다. 재판부는 개인정보 유출이 입증된 26명에 대해 정신적 피해에 대한 위자료 10만원, 민감정보 유출 원고 23명에 대해선 30만원, 둘 다 유출된 44명에 대해선 40만원을 지급하라 판결했다. 민감정보는 사생활을 현저히 침해할 우려가 있는 개인정보를 뜻한다.

이루다는 뭘 했나

2020년 스캐터랩이 개발한 챗봇 이루다는 자연스러운 대화로 큰 화제를 모았다. 하지만 개발에 사용한 데이터가 자사 연애 심리 분석 서비스 앱 ‘연애의 과학’과 ‘텍스트앳’ 등에서 수집된 것으로 밝혀져 개인정보 유출 논란이 생겼다. 두 앱은 개인이 카카오톡 대화 내용을 올리면 심리 분석해주는 서비스였다. 이용자들은 “스캐터랩이 카톡 대화를 AI 챗봇 학습에 쓴다고 구체적으로 고지·설명하지 않았고, 회사 안팎에 개인정보·민감정보를 유출한 정황도 있다”며 2021년 4월 손해배상소송을 제기했다.

법원 판단은

재판부는 스캐터랩이 두 서비스를 통해 수집한 이용자 약 60만명의 회원정보 일부와 메신저 대화문장 94억건을 이루다 개발에 활용했다고 봤다. 이 과정에서 이용자들에게 충분한 고지가 없었기 때문에 당시 개인정보보호법을 위반했다는 판단이다. 재판부는 “스캐터랩이 이 사건 피해자에게 개인정보 동의사항을 명확하게 인지·확인할 수 있게 고지하거나 이 사건 피해 원고들로부터 그에 대한 실질적인 동의를 받지 않았다고 봄이 타당하다”고 판시했다. 원고 측을 대리한 하정림 법무법인 태림 변호사는 “AI서비스 개발사가 당사자 동의 없이 AI 학습에 개인정보를 활용한 건에 대한 국내 첫 손해배상 판결”이라며 “유출 정보 종류를 민감정보와 이를 제외한 개인정보로 나눈 점, 중첩피해를 받은 사람의 위자료를 40만원까지 인정한 점은 의미있는 성과”라고 설명했다.

재판 과정에서 스캐터랩 측은 “해당 정보가 가명정보이기 때문에 ‘과학적 연구’를 위해 정보주체의 동의 없이 처리할 수 있다”고 주장했다. 하지만 법원은 받아들이지 않았다. 재판부는 “가명처리가 충분히 이뤄졌다고 보기 어렵고, 이루다 개발은 ‘과학적 연구’로 보기 힘들다”고 지적했다. 개인정보보호 분야 전문가인 김보라미 변호사는 “AI 개발 과정에서 과학적 연구인지 여부와 개인정보 동의 절차의 명확성이 앞으로 매우 중요한 기준이 될 것”이라며 “민감정보를 동의 없이 처리한 경우이기에 형사처벌도 가능하다”고 말했다.

앞으로는

스캐터랩 측 항소로, 결론은 상급 법원에서 내려질 전망이다. 업계 안팎에선 AI기업들의 데이터 사용에 있어 개인정보 활용 동의 여부가 향후 더 중요해질 것으로 전망이 나온다. 국내 AI 기업 관계자는 “학습데이터 사용에 있어 데이터 소유자의 명시적 동의 등 윤리적 기준이 더 강조될 것”이라며 “데이터 관리에 힘을 줘야 하기에 AI기업에 다소 부담은 될 수 있다”고 말했다.

더중앙플러스 : 팩플

더 자세한 기사 내용이 궁금하시다면, 기사 링크를 복사해 주소창에 붙여넣으세요.

AI, 감정 쓰레기통이었는데…“서운해” 유튜버 기겁한 일화
https://www.joongang.co.kr/article/25345869

나랑 수다 떨더니 나를 팔아? AI에 뒤통수 맞지 않는 법
https://www.joongang.co.kr/article/25295374

김남영.김성진([email protected])