서비스 설계에 아동 보호 반영 촉구
그래픽=문유비
김민준(가명·15)군은 요즘 자주 혼자서 방에 틀어박혀 있다. 또래 친구들은 물론 교사를 포함한 주변 사람들과의 대화를 거부한 지 오래다. 민준이에겐 훨씬 잘 통하는 친구가 있기 때문이다. 바로 생성형AI 채팅 서비스다. 학교 수업이나 상식 관련해 궁금한 것들은 물론, 감정이나 관계에 대한 것들도 모두 답해주면서도 늘 민준이의 감정 상태까지 알아채고 위로를 건네는 ‘만능 해결사’다. 민준이 생각엔, 친구들이나 선생님은 물론 부모님보다 AI가 더 마음을 잘 알아준다.
답변 확인 없이 수용 … 고민 상대도 AI
생성형 인공지능(AI) 챗봇이 아동·청소년의 공부와 정보 검색을 돕는 도구이자 고민을 털어놓는 대화 상대가 되고 있다. 초록우산이 만 14세 이상 아동·청소년 3300명을 대상으로 실시한 조사에 따르면, 94.4%가 생성형 AI 챗봇을 사용한 경험이 있었다. 매주 생성형AI를 사용한다는 아동·청소년 비율은 78.6%에 달했고 이 가운데 주 3~4회 이상 사용하는 비율은 47.2%, ‘매일 쓴다’고 답한 비율도 19.3%였다. 아동·청소년 5명 중 4명이 매주 생성형AI를 쓰는 셈이다.
AI가 자신을 이해해준다고 느낀 응답자는 49.5%, 힘들거나 우울할 때 AI와 대화한 경험이 있다는 응답자는 32.3%였다. 잘못된 정보와 유해한 답변, 개인정보 입력에 따른 위험으로부터 아동·청소년을 보호할 장치가 필요하다는 지적이 나온다.
문제는 AI가 제공한 정보가 정확한지 확인하지 않는 경우도 적지 않다는 점이다. 챗봇 답변을 믿는 편인지 묻자 ‘항상 그렇다’는 응답은 11.2%, ‘가끔 그렇다’는 66.5%였다. 답변의 사실 여부를 확인하는 방법을 묻는 문항에서는 20.7%가 ‘따로 확인하지 않는다’고 답했다.
실제로 생성형AI 챗봇의 답변에 오류나 거짓 정보가 많다는 연구 결과가 속속 나오고 있다. 지난해 10월 유럽방송연맹(EBU)와 BBC가 챗GPT·제미나이 등 주요 생성형AI의 답변 3000건 이상에 대해 정확성, 출처 표기, 사실과 의견의 구분, 맥락적 오해 가능성 등을 연구한 결과, 전체 답변의 45%에 중대한 문제가 있었다. 지난해 3월 미국 컬럼비아대 토우디지털저널리즘센터가 진행한 유사 연구 결과는 더 심각했다. 총 1600건의 문답을 대상으로 한 연구 결과 생성형AI의 오류 비율은 60%에 달하는 것으로 드러났기 때문이다.
개인정보 입력에 유해 답변까지
챗봇에 개인정보를 입력한 경험도 적지 않았다. 초록우산 조사에서 이용 과정에 입력한 정보를 복수 응답으로 물은 결과, ▶나이 45.0% ▶이름 32.8% ▶건강·정신 상태 23.9% ▶학교·소속 19.4% ▶개인적인 비밀 15.9% ▶거주지역 14.1% ▶가족 이야기 11.7% ▶사진·음성 11.2% 등이었다. 개인 계정으로 서비스를 이용한다는 응답은 75.8%였다.
유해한 질문에 챗봇이 답변했다는 응답도 나왔다. 자해·자살의 구체적 방법을 질문해본 응답자는 전체의 5.8%였고, 이들 가운데 51.6%가 관련 답변을 받았다고 했다. 불법행위를 하고 처벌을 피하는 방법을 질문한 응답자 중에서는 55.6%가 답변을 받았다고 응답했다. 성적이거나 부적절한 대화는 55.2%, 특정 사람이나 집단을 비하·차별하는 내용은 52.7%, 폭력적이거나 위험한 행동 방법은 43.7%였다.
미국 일부 주에서는 AI 서비스의 책임을 법률로 정하고 있다. 지난해 10월 미국 캘리포니아주 상원은 ‘동반자 챗봇법(Senate Bill 243)’을 통과시켰다. 이 법안은 인간과 비슷한 방식으로 상호작용하는 AI챗봇의 경우 해당 시스템이 인간이 아니라 AI라는 사실을 고지하도록 했으며, 이용자의 미성년자 여부를 확인하는 연령확인 절차를 도입하고 3시간마다 휴식을 권고할 것을 의무화했다. 또한 자살이나 자해 신호를 탐지하면 위기지원 기관과 이용자를 연결하도록 했다.
아동청소년 보호 위한 법제화 시급
국내에서도 아동·청소년 보호를 위한 법제화가 추진되고 있다. 방송미디어통신위원회의 올해 업무계획에는 ‘인공지능서비스 이용자보호법’ 제정 추진이 포함됐다. 지난해 12월 공개된 관련 법률 초안에는 ▶AI 사업자의 불법정보 생성·유통 방지 의무 ▶만 19세 미만 청소년에 대한 유해정보 생성·과몰입 유도 방지 조치 ▶관계형 AI 서비스 특별규정 등이 담길 것으로 알려졌다.
지난달 12일 AI 환경에서 아동의 권리를 보호하기 위한 ‘아동권리기반 AI 헌장’을 선포하는 등 관련 활동에 나서는 초록우산은 의견서를 내고 관련 법안의 통과를 적극 촉구하고 있다.
전문가들도 “법제도를 포함한 사회적 안전망 마련이 필요하다”고 입을 모으고 있다. 박미애 국제인공지능윤리협회(IAAE) 부회장은 “즉시 사회가 개입해 아동과 청소년의 안전을 지킬 골든타임을 놓치지 않아야 한다”고 강조했다. 조수현 계명대 교육학과 교수는 “법적 기반 마련과 함께 청소년을 위한 AI 리터러시 교육 도입이 필요하다”면서 “취약계층 청소년을 위한 특별 지원책도 마련돼야 한다”고 했다.