[부경호의 미래를 묻다] 인공지능 앞에 선 판사

부경호 한국에너지공대 교수

소송 당사자가 법정에 대법원 판결서를 증거로 냈다. 양식까지 그럴듯했지만, 인공지능(AI)이 지어낸 가짜였다. 지난 2일 법원행정처가 공개한 설문조사에서 민사·가사·행정 담당 판사 응답자의 약 80%가 허위·부존재 판례를 인용한 서면을 받아 봤다고 답했다. 심지어 AI와 나눈 대화나 소송 전략 문구가 서면에 그대로 남은 예도 있었다. 응답 판사 열에 아홉은 허위 판례 인용에 과태료 같은 제도적 대응을 원했다.

판사 80%, 허위 판례 서면 경험
법정에서 AI 이용해 서로 반박
AI가 AI 학습 ‘모델 붕괴’ 우려도
인간이 쓴 글이 AI 법정의 백신

법정에서도 인공지능(AI) 이슈가 뜨겁다. 변호사들이 AI를 이용해 변론을 주고받고, 판사 또한 AI를 활용하는 시대다. [AI 활용 이미지]

법조신문은 변호사 없이 소송하는 ‘나 홀로 소송’ 당사자의 40쪽짜리 준비서면을 받은 변호사 사례를 전했다. 법률용어는 그럴듯했지만, 쟁점과 무관한 주장과 가짜 판례가 뒤섞인 서면이었다. 서초동에선 이제 상대 변호사의 서면을 AI로 반박하고, 상대는 그 반박을 다시 AI로 받아친다는 말이 돈다. 서면은 두꺼워지고, 그 진위를 가려내는 일은 격무에 시달리는 판사 몫으로 돌아간다. 법정에 쌓이는 글의 상당수가 이미 AI의 글인 듯하다. 그런데 가짜 판례만 걸러내면 법정은 안전해지는가.

김영옥 기자

서로 닮은 흠잡을 데 없는 판결

판사도 AI 앞에 서 있다. 법원은 서면을 분석해 유사 판결문 10건을 자동 추천하는 AI 모델을 개발 중이고, 올해는 ‘법관을 위한 AI 가이드북’을 배포했다. 가이드북은 ‘최종 판단과 책임은 이용자의 검토와 판단에 따른다’고 못 박는다. 판사가 꼼꼼히 검토하면 걸러진다는 전제다. 하지만 진짜 무서운 문제는 검토로도 걸러지지 않는다. 허위 판결문이 아니라 서로 닮은 판결문이다. 가짜 판례는 검색으로 잡히지만, 닮은 판결은 한 편씩 뜯어보면 흠잡을 데가 없다.

2024년 국제학술지 ‘사이언스 어드밴시스’에 게재된 영국의 UCL과 엑시터대의 공동연구가 그 문제를 미리 보여줬다. 연구진은 293명에게 짧은 소설을 쓰게 하면서 일부에게는 AI가 만든 줄거리 아이디어를 다섯 개까지 주었다. 아이디어를 받은 참가자의 글은 더 참신하고 재미있다는 평가를 받았다. 그러나 서로 닮은 글이 늘었다. 개인은 참신성을 얻고 집단은 다양성을 잃는, 연구진의 표현으로는 ‘사회적 딜레마’다. AI가 골라준 유사 판결 10건은 AI가 건넨 아이디어 다섯 개와 같다. 판결문 한 편의 완성도는 오를지 몰라도, 법원 전체로 보면 새 판례를 여는 판결은 드물어질 것이다.

같은 해 네이처에 실린 옥스퍼드대 등의 논문 연구는 AI가 만든 글을 AI가 다시 배우면 어떤 일이 벌어지는지 보여줬다. 연구진은 AI의 글로 다음 AI를 가르치는 일을 아홉 번 되풀이했다. 세대를 거듭할수록 흔한 표현은 더 흔해지고, 드물지만 중요한 정보, 곧 ‘분포의 꼬리’가 지워졌다. 빈자리는 헛소리가 채웠다. 중세 영국 교회 건축을 묻자 처음엔 멀쩡히 답하던 AI가 아홉 번째엔 느닷없이 파란 꼬리, 노란 꼬리 토끼를 늘어놓았다. 연구진은 이 퇴행을 ‘AI 모델 붕괴’라 이름 붙이며 특히 모델의 공정성을 걱정했다. 연구진에 따르면 데이터에 드물게 나오는 사례는 흔히 소외된 집단과 관련되며, 그래서 AI가 이런 사례를 다루는 능력을 갖추도록 하는 일이 예측의 공정성에 필수적이다. 드문 것부터 지우는 AI는 약자부터 잊는다는 얘기다. 연구진은 사람이 만든 원본 데이터를 지켜야 한다고 강조했다. 실험에서도 세대마다 원본 데이터를 10%씩 섞자 성능 저하가 크게 줄었다. 인간의 글이 AI의 백신인 셈이다. AI 기업들이 거액을 주고 게시글을 사들이고 헌책을 스캔하는 이유다.

이 ‘백신’이 빠진 법정을 떠올려 보자. AI가 추천한 판례로 AI의 도움을 받아 쓴 판결문은 매끈하고 빈틈이 없을 것이다. 한 편씩은 참신해 보여도, 실험 속 소설들처럼 서로 닮아간다. 그 닮은 판결문이 다시 AI의 학습 자료가 되면, 다음 AI는 세상이 아니라 앞선 AI의 글을 배운다. 그 과정에서 통념을 거슬러 한 사람의 사정을 읽어낸 드문 판결은 다음 세대에 전해지지 않는다. 법정판 모델 붕괴다. 법이 귀하게 여기는 ‘일관성’과 AI가 만드는 ‘평균으로의 수렴’은 다르다. 전자는 같은 사건을 같게 다루는 것이고, 후자는 다른 사건을 같게 다루는 것이다.

한동수 전 판사는 올해 기고에서 2011년 지적장애인 대상 성범죄에 중형을 선고하고 법정구속한 일을 회고했다. 영화 ‘도가니’ 이전, 온정적 양형이 주류이던 때였다. 그 양형을 학습한 AI였다면 관행대로 집행유예를 내놓았으리라는 우려다. 그의 말처럼 판결문은 과학실험의 정량적 데이터가 아니라 ‘기존의 차별을 영속화하고 증폭시키는 경향까지 포함된 사회데이터’다. 그 편향을 걸러낼 마지막 사람은 판사다.

김영옥 기자

현실이 된 서명만 하는 판사
서명만 하는 판사의 위험은 이미 현실이다. 미국의 한 판사는 재판연구원이 AI로 쓴 초안을 결정문으로 내보냈다. 거기엔 존재하지 않는 11명의 원고 이름과 법에 없는 조문이 적혀 있었다. 판사는 단순 실수라 했지만, 지난달 상급법원은 결정을 취소하고 사건을 다른 판사에게 넘기라고 명령했다. 유령 원고와 조문조차 못 거르고 서명하는 마당에, 매끈한 ‘평균적 판결 초안’의 유혹은 오죽하겠는가.

AI를 배척하자는 게 아니다. 인간이 언제나 더 정확해서도 아니다. 기계의 답을 받아들이든 버리든, 왜 그렇게 판단했는지 설명하고, 반박에 귀 기울이고, 필요하면 바로잡아야 한다. 인간의 책임이자 권리다. AI가 쓰고 AI가 배우는 법정에서, 인간은 판사석을 비우고 피고석과 방청석에만 남는다. 숨 쉬는 인간은 법정에 남지만, 옳고 그름을 묻고 책임지는 존재는 사라진다. 인간의 실질적 멸종이다. 그 멸종은 영화 ‘터미네이터’처럼 기계의 반란으로 오지 않는다. 편리함에 기대어 판단을 하나씩 넘기는 조용한 서명을, 인간 스스로 불러온다. 이를 막는 건 기계보다 뛰어난 능력이 아니다. 통념이 놓친 억울함을 알아본 판사의 안목으로 끝까지 ‘판단하는 인간’으로 남겠다는, 누군가는 꼰대 같다고 할 결심이다.

부경호 한국에너지공대 교수