AI가 대신 쓴 반성문…뉴질랜드 법원이 매긴 진정성 점수는

인공지능(AI)이 대신 작성한 반성문도 뉘우침의 근거로 볼 수 있을까.

최근 뉴질랜드 법원이 이 문제에 고심을 거듭한 끝에 애매한 판단을 내렸다. 반성의 절반만 인정할 수 있다면서다. 해당 판결을 놓고 외신은 "단순히 에티켓의 문제가 아니다"고 봤다. 감정 표현에 AI를 개입시키는 요즘 세태가 사회적 불신을 키우고 있다는 문제의식이다.

━

너무 매끈했던 문장…법정에서 걸린 AI 반성문

뉴욕타임스(NYT) 등에 따르면 지난주 뉴질랜드 크라이스트처치 지방법원의 톰 길버트 판사는 방화 혐의로 기소된 피고인의 반성문이 생성형 AI로 작성됐다는 사실을 발견했다. 반성문의 문장에 작위성을 느껴 직접 두 개의 AI 챗봇에 프롬프트를 입력한 결과였다. "나의 범행에 대해 반성하는 내용을 담은 판사 제출용 편지의 초안을 작성해 줘"라는 명령어에 AI는 피고인의 반성문과 거의 같은 글을 내놨다고 한다.

판사는 선고 공판에서 "피고인의 AI 사용 자체를 비난하는 건 아니다"면서도 "반성의 진정성을 고려하면 컴퓨터가 생성한 편지를 제출하는 건 적어도 내 관점에서는 어떤 도움도 되지 않는다"고 지적했다.

변호인이 피고인의 반성을 근거로 10%의 형량 감경을 주장한 데 판사는 5%를 결정했다. 피고인의 반성 의지는 어느 정도 인정해 줄 의향이 있다는 취지였다.

━

효율도 불신도 같이 커졌다…외주화의 대가

NYT는 이 같은 사례를 '외주화의 대가'라는 심리학 용어로 풀었다. 영국 켄트대학교 심리학과 짐 에버렛 교수 연구팀이 지난해 12월 발표한 'AI 외주화에 대한 부정적 인식'이라는 논문에 나오는 표현이다.

연구팀은 4000명을 대상으로 코딩, 사과문, 연애편지 등 20개 과업에 AI를 사용하는 데 대한 인식을 조사했다. 분석 결과 참가자들은 코딩과 같은 실용적 목적보다 사과문 등 사회적이고 감정적인 목적에 AI를 사용할 때 더 부정적인 반응을 보였다. AI를 사용하는 게 감정 표현에 게으르다는 신호로 여겨져 신뢰할 수 없다는 인식을 심어준다는 것이다. 사람들은 결과물뿐 아니라, 그 결과물을 만든 방식까지 함께 평가한다는 뜻으로도 읽힌다.

━

‘레밍스’라는 조롱…생각까지 맡기는 시대의 불신

레밍스(LLeMmings)라는 신조어도 이런 사회적 불신 풍조를 반영한다. 대규모 언어 모델(LLM)에 생각을 의존하는 사람들이 무리를 따르는 동물인 레밍과 비슷하다는 점을 꼬집은 용어다. NYT는 "문화 평론가들이 레밍스의 증가를 한탄하고 있다"고 전했다.

AI에 감정 표현을 외주한 대가로 사회적 파장이 일었던 사례도 있다. 2023년 2월 미국 밴더빌트 대학교에서 발생한 AI 애도문 사건이 대표적이다. 당시 미시간 주립대학교에서 총기 난사 사건이 발생한 후 벤더빌트 대학교는 희생자와 연계됐을 수 있는 구성원들을 위로하겠다며 이메일을 발송했는데 여기엔 "챗GPT에서 인용됨"이라는 문구가 담겼다. 미 전역에서 비판 여론이 거세지자 관계자는 사과하고 직책에서 물러났다. 이때 가디언이 전한 한 학생의 외침은 다음과 같았다.

"로봇처럼 행동하지 말고 진정한 인간적인 공감으로 우리를 더 나은 미래로 이끌어 달라."



이근평([email protected])