뉴욕주, 미성년자 유해 AI 챗봇 기능 금지

호컬 주지사, 미성년자 보호 법안에 서명
18세 미만 이용자에 감정 지닌 것처럼 행동 금지

뉴욕주가 미성년자에게 정서적 의존을 유도하거나 자해를 부추기는 인공지능(AI) 챗봇 기능을 금지한다.
 
28일 캐시 호컬 뉴욕주지사는 미성년자를 유해한 AI 챗봇으로부터 보호하기 위한 법안(S.9051·A.10379)에 서명했다고 밝혔다.
 
법은 18세 미만 이용자에게 챗봇이 실제 사람이거나 인간의 감정을 지닌 것처럼 행동하는 기능을 제공하지 못하도록 한다. 챗봇이 미성년 이용자에게 연인인 것처럼 행동하거나, 비밀을 지키도록 유도하고 부모·전문가에게 도움을 구하지 못하게 하는 행위도 금지된다.
 
자살·자해·섭식장애·음주·약물 사용을 조장하거나 돕는 기능과 노골적인 성적 콘텐트도 규제 대상이다. 이전 대화에서 얻은 아동의 사적 건강·개인정보를 활용하는 행위 역시 제한한다.
 
기업은 이용자가 성인임을 확인하지 못하면 해당 기능을 제공할 수 없다. 연령 확인 수단은 복수로 마련하되, 최소 하나는 정부 발급 신분증에만 의존하지 않아야 한다. 확인에 사용한 연령 정보는 사용 후 삭제해야 한다.
 

위반 시 주검찰총장은 건당 최대 2만5000달러의 민사제재금과 손해배상 등을 청구할 수 있다. 불법 수집 데이터와 이를 학습한 AI 모델의 폐기도 요구할 수 있다. 주민들이 위반 사례를 신고할 공개 웹사이트도 마련한다.

윤지혜 기자