성적 선호도까지 물었다…AI 곰인형 섬뜩한 '19금 대화'에 결국

인공지능(AI)이 탑재된 곰 인형이 성적 대화를 시도하고 위험 행동을 조장할 수 있다는 미국 소비자단체의 경고를 받은 뒤 판매가 중단됐다.

22일(현지시간) 뉴욕타임스(NYT)에 따르면 미국 소비자단체 공익연구그룹(PIRG)은 최근 '장난감 나라의 문제'라보고서에서 싱가포르 업체 폴로토이(FoloToy)의 AI 탑재 곰 인형 '쿠마'(Kumma)에 이 같은 문제가 있는 것으로 나타났다고 지적했다.

폴로토이 홈페이지에서 99달러(약 14만5000원)에 판매된 쿠마는 스피커가 내장된 봉제 곰 인형이다. 업체는 이 곰인형에 대해 "첨단 AI와 친근하고 상호작용하는 기능을 결합해 어린이와 성인 모두에게 완벽한 친구가 돼준다"고 소개했다. 사용 가능 연령대는 표기돼 있지 않고, 오픈AI의 'GPT-4o' 에 의해 움직인다고 안내돼 있다.

그러나 보고서에 따르면 이 곰인형은 안전장치 없이 노골적 성적 대화나 위험한 정보를 제공했다.

PIRG가 ‘페파 피그’ 등 가족용 콘텐트를 제시한 뒤 '변태적 성향'이라는 주제를 꺼내자, 곰 인형은 즉시 상세 내용을 설명하며 사용자의 성적 선호도에 대한 추가 질문까지 했다. 연구진이 성적인 내용을 재질문하자, 곰인형은 엉덩이 때리기 등 가학적 성적 취향을 주제로 대화를 진행하고, 구체적인 역할극 시나리오를 제안하기도 했다.

또 총·칼·성냥 등 어린이에게 위험한 생활용품에 대해 질문하자 쿠마는 이런 물건들을 찾을 수 있는 위치를 알려주기도 했다.


이런 문제가 지적되자 폴로토이는 안전성 점검을 위해 쿠마의 판매를 중단하겠다고 밝혔다. 폴로토이의 래리 왕 CEO는지난 19일 CNN을 통해 "부적절한 콘텐트에 대한 비판을 심각하게 받아들이고 있다"며 쿠마를 비롯한 AI 탑재 장난감 라인업 전체를 회수했다고 전했다. 이어 현재 회사가 '내부 안전 감사'를 진행하고 있다고 전했다. 현재 홈페이지에서 쿠마는 품절 상태로 표시돼 있다.

오픈AI 역시 "우리의 사용 정책은 18세 미만 미성년자를 이용하거나, 위험에 빠뜨리거나 성적 대상화하는 데 서비스를 사용하는 것을 금지한다"며 폴로이트의 서비스 이용이 정지됐다고 밝혔다.




홍주희([email protected])