목소리 복제 상업적 사용도 제한
가주가 인공지능(AI)의 무분별한 활용을 막기 위해 의료와 고용, 법률 등 사회 전반에 걸쳐 규제를 대폭 강화하고 있다. 개빈 뉴섬 가주 주지사는 이달 들어 AI 관련 법안 13개에 잇따라 서명했다. AI 기술의 오용을 막고 피해를 예방하기 위한 조치다.
우선 법률 분야의 AI 규제가 강화된다. 최근 법정 등에서 AI가 생성한 허위 판례가 잇따라 등장하며 논란이 일고 있기 때문이다.
내년 1월부터 시행되는 새 법(SB 574)은 변호사가 법률 관련 업무를 생성형 AI에 위임하지 못하도록 했다. 법원 제출 서류의 인용 출처를 직접 검증하고, 서류 작성에 AI를 활용한 경우 법원에 이를 고지하도록 의무화했다.
실제 지난해 9월 LA 지역의 한 변호사는 AI가 만들어낸 가짜 판례 인용문을 항소 서류에 사용했다가 1만 달러의 제재금을 부과받았다.
법조계에서도 AI가 생성한 법률 정보의 정확성을 확보하는 것이 중요한 과제로 떠올랐다.
이어 “이번 법 제정은 변호사의 검증 책임을 명확히 하고 경각심을 높인다는 점에서 의미가 있다”고 말했다.
의료 현장에서도 AI의 독자적 판단에 제동이 걸렸다. 내년 1월부터 시행되는 새 법(AB 1979)은 AI를 의료진의 판단을 보조하는 도구로만 활용하도록 했다. AI 의사결정 지원 시스템을 활용하더라도 최종 의사결정은 면허를 보유한 의료인의 독립적인 판단에 따라 이뤄져야 한다.
앞서 카이저 퍼머넌트가 정신건강 환자의 온라인 설문 결과를 알고리즘으로 분석해 치료를 권고했다는 의혹과 관련해 주 의료관리국에 진정서가 제출된 바 있다.〈본지 7월 30일자 A-3면〉
실존하는 특정 인물의 목소리나 외모를 AI로 복제한 콘텐츠를 당사자의 사전 동의나 계약 없이 광고·마케팅·상품 제작 등 상업적 목적으로 사용하지 못하도록 하는 법(SB 1111)도 마련됐다. AI가 만든 사진·영상·오디오 등에 ‘AI 생성물’임을 나타내는 출처 기록을 삽입하는 법(AB 2713·SB 1000)도 의무화된다.
노동자 보호를 위한 규제도 강화됐다. 새 법(SB 947)은 고용주가 업무 평가 등 AI를 근거로 노동자를 해고·징계하는 행위를 금지한다. AI나 자동화로 대규모 해고 등이 발생할 경우 노동자와 지방정부에 사전에 구체적으로 알리도록 하는 법(SB 951)도 마련됐다.
김여진 인턴기자