“이대로 내면 어떡하나”…판사에 혼쭐난 27년차 변호사 ‘AI 판례’ [AI발 인류지능 퇴보]

“기재한 대법원 판결들은 모두 존재하지 아니하거나 실제 판시와 전혀 다른 내용으로, 인공지능 환각(AI Hallucination)으로 보인다.”

지난달 11일 대전지법 민사5-2부(재판장 황성욱)는 차량수리비 사건을 선고하며 판결문에서 원고가 제출한 준비서면에 대해 이같이 지적했다. ‘확인할 수 없는 판례’ ‘존재하지 않는 판례’라는 표현에서 나아가 “AI가 만든 환각을 법원에 제출했다”고 못박은 것이다.

━

27년차 변호사도 ‘가짜 판례’ 섞어 제출

원고와 피고 측 소송대리인이 AI로 작성한 서면을 가지고 법정 다툼을 벌이는 모습이다. 챗GPT

인공지능을 사용한 소송이 보편화되면서 법원에 허위 정보가 흘러들고 있다. AI가 가짜 판례나 법령을 마치 실재하는 것처럼 생성해내고, 당사자나 변호사가 이를 검증 없이 서면에 제출하면서 빚어지는 일이다. 한 부장판사는 “당사자가 직접 소송하는 경우에만 그럴 거라고 생각하지만, 변호사들이 그대로 제출하는 경우도 적지 않다”고 말했다.

중견 변호사가 대리한 사건도 예외는 아니다. 지난 6월 특허법원은 한 제조기업이 제기한 특허 등록무효 사건에서 “원고가 원용하는 판례 8개는 존재하지 않는 판결들로, 이를 검증하지 않은 채 법원에 제출하는 행위는 부적절하다”고 직격했다. 재판부는 “원고 역시 AI를 통해 추출한 일부 판결을 검증 없이 제출한 점을 시인하고 있다”고 덧붙였다. 이 사건을 대리한 건 서울대 법대 출신의 27년차 중견로펌 변호사였다.

가짜 자료가 자칫 잘못된 결론으로 이어질 가능성이 있어 법원은 신경이 곤두서 있다. 한 판사는 “과거에는 서면에 써 있는 내용은 신뢰할 수 있었는데, 이젠 진짜 있는 판례인지부터 따져야 한다. 이런 식이면 제출되는 모든 법령과 판례를 일일이 확인해야 하게 돼 업무 부담이 가중된다”고 했다. 한 고법부장은 “많은 판사들이 경험했을 거다. 서면을 보다가 ‘이상하다’ 싶어서 판례번호를 찾아보면 없는 번호”라며 “법원으로서는 마땅한 대응 방법이 없는 것 같다”고 했다.

━

법정에서 “이걸 이대로 내면 어떡하나” 질책도

법원에서는 AI가 만들어낸 유령 판례를 검증하는 과정에서 심리에 비효율이 발생할 수 있다는 우려가 나오고 있다. 챗GPT

현실적인 제재는 법정에서 직접 경고하는 것이다. 지난달 서울고법 한 민사 재판부에서는 당사자가 AI로 쓴 뒤 손질하지 않은 서면을 제출해 재판부가 “이걸 이대로 내면 어떡하나”라며 변호인을 질책했다. 울산지법에서는 한 변호인이 엉뚱한 대법원 판결을 인용한 뒤 법정에서 재판장이 추궁하자 “구글 제미나이로 판결을 검색한 뒤 내용을 제대로 확인하지 않았다”고 인정하는 일이 있었다.

판결문에 “존재하지 않는 판례를 인용했다”고 적시하는 경우도 적지 않다. 서울동부지법은 지난 6월 판결문에 “원고는 의도적으로 허위 판례를 인용해 적극적으로 법원을 기망하려 했다”고 질타했다. 한 서초동 변호사는 “상대방 변호사를 보면 딱 봐도 AI를 썼다고 티가 나는 경우도 있다. AI 때문에 딴 소리를 하는 경우도 있다”며 “AI가 자신 있게 답을 내놓더라도 검증을 소홀히 해선 안 되는데, 그러지 않는 변호사도 있는 것 같다”고 했다.

경고만으로는 대응에 한계가 있다. 법원행정처에 따르면 대구고법에서는 변호사가 존재하지 않는 ‘대법원 2000다57763’ 판결을 인용하자 재판부가 사건번호를 다시 확인해보라고 요구했다. 그러나 이 변호사는 재차 없는 사건번호인 ‘대법원 2012다11454’ 판결을 인용하며 “판례번호가 부정확할 수 있다”고 주장했다.

━

‘가짜 판례’ 제시하면 과태료 부과 법안 발의

정진욱 더불어민주당 의원은 지난달 소송 당사자나 변호사, 소송 관계인이 없는 법령 등을 소장, 준비서면 등 법원 제출 서류에 인용했을 때 최대 500만원의 과태료를 부과할 수 있게 하는 민사소송법·형사소송법 개정안을 발의했다. 챗GPT

법원은 다음 단계를 모색하고 있다. AI가 만든 허위 정보를 검증 없이 가져왔을 때 제재를 가하는 방안이다.

국회도 대응에 나섰다. 정진욱 더불어민주당 의원은 지난달 소장, 준비서면 등 법원 제출 서류에 AI를 이용하면 이를 기재하도록 하는 내용의 민사소송법·형사소송법 개정안을 발의했다. 소송 당사자나 변호사, 소송 관계인이 없는 법령 등을 인용했을 때 최대 500만원의 과태료를 부과할 수 있게 하는 내용도 담겼다.

“어디까지 AI를 허용할 것인가”는 해결해야 할 질문이다. 법원행정처 관계자는 “그럴듯하게 주장을 다듬는 건 자유지만, 객관적 자료를 허위 인용하는 건 제재가 필요하다”는 입장이다. 변호사단체는 “AI를 초안 작성에만 사용해도 AI를 활용했다고 해야 하는지 기준이 모호하다”고 우려한다. 대한변협은 자체적으로 관리·규율을 강화하기 위해 ‘AI 법률인공지능 TF’를 발족하고 법조계 내 AI 사용에 대한 가이드라인을 준비하고 있다.

변호사가 AI에 휘둘리는 건 한국만의 고민거리는 아니다. 2023년 미국 콜로라도주에서는 한 변호사가 AI가 만들어낸 허위사실을 법원에 제출해 “법원에 대한 진실의무 위반”으로 1년 정직 처분을 받았다. 미국은 법원에 변호사 징계권이 있다. 변호사는 처음에는 인턴의 실수였다고 해명했다가 나중에 챗GPT를 사용했다고 실토했다. 그는 “챗GPT가 이전에는 정확하게 답변했기 때문에, 이 기술이 기만적이라는 생각조차 떠오르지 않았다”며 “무지에 의한 실수”라 항변했지만 받아들여지지 않았다.




김예정.최서인.조수빈([email protected])