(온라인) 쳇GPT 청소년 버전 나온다

오픈AI, '10대용 챗GPT' 출시…안전 기능 강화
 
자해·폭력·음란 대화 자동 제한
숙제는 정답 대신 학습 유도
비정상 내용 부모 알림 기능도

OpenAI 샘 올트먼 CEO가 지난 7월 백악관 회의를 위해 이동하다 사인을 하고 있다. [로이터]

 
오픈AI(OpenAI)가 청소년 이용자를 위한 '챗GPT 포 틴즈(ChatGPT for Teens)'를 출시했다. 최근 인공지능(AI)이 청소년의 정신건강과 학습에 미치는 영향에 대한 우려가 커지자, 유해 콘텐츠를 자동으로 제한하고 학습 중심으로 활용하도록 설계한 전용 모드를 도입한 것이다.
 
오픈AI는 18일 블로그를 통해 10대 이용자를 위한 새로운 챗GPT 모드를 공개했다. 이 모드는 자해, 폭력, 섭식장애, 노골적인 성적·폭력적 콘텐츠 등 위험도가 높은 대화를 자동으로 제한한다. 일부 상황에서는 부모가 사전에 설정한 경우 보호자에게 알림도 전송한다.
 

또한 챗GPT가 사람처럼 감정을 가진 것처럼 표현하는 것을 줄이는 등 AI에 대한 과도한 정서적 의존을 막기 위한 안전장치도 강화했다.
 
교육 기능도 크게 바뀌었다. 챗GPT가 사용자가 숙제를 하는 것으로 판단하면 곧바로 정답을 제시하기보다 질문을 던지며 스스로 답을 찾도록 유도하는 방식으로 응답한다. 오픈AI는 이를 통해 AI가 단순한 답안 생성기가 아니라 학습을 돕는 도구가 되도록 했다고 설명했다.
 
오픈AI는 가입 시 이용자의 나이를 입력하도록 하고 있지만 허위 입력 가능성을 고려해 로그인 시간, 계정 사용 패턴 등 2,000개 이상의 신호를 분석해 18세 미만으로 판단되면 자동으로 청소년 모드를 적용한다고 밝혔다. 회사는 이러한 방식이 개인정보 침해를 최소화하도록 설계됐다고 설명했다.
 
이번 조치는 청소년 안전 문제를 둘러싼 규제 압박이 커지는 가운데 나왔다. 오픈AI는 자사 챗봇이 위험한 콘텐츠를 제공해 자해나 극단적 선택으로 이어졌다고 주장하는 여러 소송에 직면해 있으며, 지난 6월에는 플로리다주가 미성년자 안전성을 허위로 홍보했다며 오픈AI를 상대로 소송을 제기하기도 했다.
 
학부모 단체들도 뉴욕과 로스앤젤레스 등에서 학교의 AI 서비스 도입을 일시 중단할 것을 요구하고 있다. 챗봇이 허위 정보를 생성하거나 부정행위를 돕고 학생들의 비판적 사고 능력을 약화시킬 수 있다는 우려 때문이다.
 
오픈AI는 "AI는 교육 기회를 확대하는 역할을 해야 한다"며 "교실 밖에서도 학생들이 안전하게 학습할 수 있도록 적극적인 학습 과정에 초점을 맞춰 청소년용 챗GPT를 설계했다"고 밝혔다. 다만 전문가들은 연령을 정확히 확인하기 어려운 기술적 한계와 부모의 관리에 의존하는 방식만으로는 청소년 보호에 한계가 있을 수 있다고 지적했다.

최인성 기자 [email protected]