AI로 법원 서류 쓰면 공개해야…가주 ‘전국 최초’ 규제 추진

AI 썼다면 밝히고 직접 확인해야
가주의회 변호사 대상 법안 통과
법원 제출 자료 오류 방지 목적

가주에서 변호사의 법률 업무상 AI 사용을 규제하는 법안이 추진되고 있다. [AI 이미지 생성]

가주에서 변호사가 생성형 인공지능(AI)을 이용해 법원 제출 서류를 작성할 경우 AI 사용 사실을 공개하고, 생성된 내용의 정확성을 직접 검증하도록 하는 법안이 주의회를 통과했다. 법안이 시행되면 가주는 변호사의 생성형 AI 사용을 법률로 규정한 미국 최초의 주가 될 전망이다.
 
1일 로이터통신에 따르면 가주 상·하원은 SB 574를 승인했다. 법안은 개빈 뉴섬 주지사의 서명 또는 거부권 행사를 앞두고 있다.
 
법안의 핵심은 변호사가 법률 업무를 AI에 사실상 맡기지 못하도록 하는 것이다. 변호사가 생성형 AI로 작성한 자료를 사용할 경우 판례와 인용문을 포함한 모든 내용의 정확성을 확인하기 위해 ‘합리적인 조치’를 취하도록 했다. AI가 존재하지 않는 판례나 사실을 만들어내는 이른바 ‘환각(hallucination)’이 발견되면 이를 바로잡아야 한다.
 
특히 법원 제출 서류 작성에 AI를 사용했다면 해당 사실도 공개해야 한다. 특정 생성형 AI 시스템에는 의뢰인의 기밀이나 비공개 정보를 입력할 수 없도록 했다. 중재인 역시 판단이나 의사결정을 AI에 맡길 수 없다.
 
이번 규제는 최근 변호사들이 AI가 생성한 허위 판례나 잘못된 정보를 제대로 확인하지 않은 채 법원 제출 서류에 포함해 제재받는 사례가 잇따른 데 따른 것이다.
 

법안을 발의한 톰 엄버그 가주 상원의원은 변호사들이 여전히 AI의 환각이나 오류가 담긴 자료를 제출하고 있다며 “법원과 사법 시스템은 소송 당사자와 변호인의 신뢰성에 의존해야 한다”고 강조했다.
 
법안이 시행되면 규정을 위반한 변호사를 법원이 제재할 수 있는 근거도 한층 명확해질 전망이다. 엄버그 의원은 정확성 검증 의무가 “변호사의 기준을 높일 것”이라며 법원이 규정을 지키지 않는 변호사를 제재할 수 있는 또 하나의 수단이 될 것이라고 설명했다.
 
다만 법조계 일각에서는 법안의 상당 부분이 변호사에게 이미 적용되는 기존 윤리·소송 규정을 되풀이한 것이라는 지적도 나온다.

송윤서 기자