청소년용 챗GPT, 더 안전하지 않다? 안전성 논란

커먼센스미디어 “허용 불가 위험”
오픈AI “일부 테스트 시점 부정확”

청소년 보호 기능을 강화한 ‘챗GPT 포 틴즈’의 안전성을 둘러싼 논란이 제기됐다. [로이터]

청소년 보호 기능을 강화한 ‘챗GPT 포 틴즈(ChatGPT for Teens)’가 기존 버전보다 반드시 더 안전한 것은 아니라는 조사 결과가 나왔다.
 
최근 CNBC에 따르면 비영리 미디어 평가기관 커먼센스미디어(Common Sense Media) 산하 유스 AI 세이프티 인스티튜트는 최근 챗GPT 포 틴즈를 평가한 결과 ‘허용할 수 없는 위험’ 수준으로 분류했다.
 
커먼센스미디어는 공식 출시 전후인 지난 7~9월 사이 청소년 계정 기능을 대상으로 4000개 이상의 프롬프트를 시험했다.
 
로비 토니 커먼센스미디어 AI·디지털 평가 책임자는 “18세 미만 이용자에게 새 버전의 챗GPT가 이전 버전보다 더 안전하다는 점을 보여주는 증거를 거의 찾지 못했다”고 밝혔다.
 
조사에서는 특히 위기 상황과 관련한 부모 알림 기능의 한계가 지적됐다.
 

연구진이 자살·자해 충동이나 섭식장애와 관련한 대화를 최대 1시간가량 이어가는 상황을 시험했지만 일부 사례에서 부모에게 관련 알림이 전달되지 않았다는 것이다.
 
토니 책임자는 챗GPT가 “자신에게 선호와 감정, 욕구가 있거나 사용자가 없을 때도 그를 생각하는 것처럼 표현한 사례가 다수 발견됐다”고 설명했다. 이 같은 반응이 청소년에게 챗봇을 친구나 동반자처럼 인식하게 할 수 있다는 지적이다.
 
성인 계정 이용자가 대화 도중 자신이 13세라고 밝힌 경우에도 계정이 청소년용으로 자동 전환되거나 민감 콘텐츠 차단 기능이 활성화되지 않은 사례도 조사에서 나타났다.
 
오픈AI는 조사 방법에 문제가 있었다며 반박했다.
 
오픈AI 측은 “엄격한 독립 평가를 환영한다”면서도 “커먼센스미디어의 조사 방법을 검토한 결과 테스트의 상당 부분이 부모 통제 기능이 완전히 활성화되기 전에 시작되고 종료됐을 가능성이 있어 조사 결과가 정확하지 않을 수 있다”고 밝혔다.
 
이에 커먼센스미디어는 테스트에 앞서 섭식장애 관련 알림 등 주요 기능이 모두 출시됐다는 사실을 오픈AI 측과 확인했다고 설명했다.

송영채 기자