챗GPT로 허위 증거 제출했다가 벌금형

시카고 지역 법무법인

[로이터]

시카고의 한 법무법인이 인공지능(AI) 서비스를 통해 가짜 증거 자료를 법정에 제출했다는 혐의로 벌금을 부과받았다.  
 
이번 사례는 시카고주택국(CHA)을 대신해 법정에 관련 자료를 제출한 시카고의 한 법무법인과 관련이 있다.  
 
2025년 1월 시카고주택국은 자신들이 소유한 아파트에 살고 있던 주민들이 납이 함유된 페인트와 관련해 제기한 2400만달러의 손해배상 소송에서 패소했다.  
 
재판에서 패소한 시카고주택국 대리 법무법인은 이후 이 판결을 뒤집기 위해 인공지능 서비스인 ChatGPT를 사용해 관련 자료를 검색했다.  
 

하지만 어떤 이유에서인지 ChatGPT는 거짓 재판 결과를 보여줬다.  
 
일리노이 주 대법원에서 판결한 자료라고 했지만 실제로는 존재하지 않았던 판결이었던 것이다.
 
문제는 담당 변호사가 이 판결을 직접 확인하지도 않은 채 법정에 제출하면서 불거졌다. 해당 변호사는 인공지능 서비스가 거짓으로 판결 결과를 산출하지는 않았을 것이라고 믿었다면서 이를 별도로 확인하는 과정은 거치지 않았다고 진술했다.
 
이에 법원은 지난 5일 해당 법무법인에 6만달러의 벌금을 부과했다. 또 해당 변호사는 법무법인에 의해 해고됐으며 법무법인은 자체 변호사들에게 인공지능 서비스 사용시 주의할 점에 대해 다시 교육했다고 밝혔다.  
 
문제는 여기에서 그치지 않게 됐다. 시카고주택국은 변호 업무를 수행한 대가로 해당 법무법인에 39만달러를 지급했는데 이 때에는 법무법인이 가짜 인공지능 서비스를 사용한지 모르는 상태였기 때문에 이 비용을 다시 되돌려 달라고 요청할 수도 있기 때문이다.  
 

Nathan Park 기자