“누굴 해고할까?” 맘에 드는 답 술술…간신 뺨치는 ‘AI 아첨’

━

곽재식의 세포에서 우주까지

AI 이용이 늘면서 사용자가 좋아하는 말만 하는 AI 아첨 문제가 대두되고 있다. [사진 AI 생성 이미지]

조선 시대에 쓰던 표현 중에 충성을 다했다는 뜻의 말로 수충(輸忠)이라는 말이 있다. 그렇다면 ‘수충공신(輸忠功臣)’이라는 칭호를 받은 신하로는 누가 있을까. 유명한 사람 중에서는 유자광을 꼽을 수가 있다. 정확히 말하면 유자광은 1468년에 ‘수충보사병기정난익대공신(輸忠保社炳幾定難翊戴功臣)’이라는 길고 화려한 칭호를 받았다.

지금 살펴 보면 이것은 상당히 어색한 일이다. 긴 세월 유자광은 충신이라기 보다는 정반대인 간신의 대표로 손꼽히던 인물이기 때문이다. 유자광은 남이 장군을 모함하여 처형하는 일에 앞장선 장본인이고 연산군 시절에는 연산군의 분노를 부추겨 자신의 적들을 제거했으면서도 나중에는 반대로 스스로 연산군을 몰아내는 일에 앞장서기도 했다.

그랬으니 유자광은 조선 시대 내내 악명 높은 간신이라는 평가를 받았다. 물론 복합적인 다양한 연구가 진행된 현대에는 유자광을 단순한 악당이라고 볼 수 없다는 시각도 있기는 하다. 그러나 설령 유자광이 철저한 간신은 아니라고 하더라도 그가 충신이라는 데 동의하는 사람은 여전히 드물 것이다. 그런데 도대체 어떻게 해서 그가 충성을 다한 공신이라는 화려한 칭호를 받는데 성공했을까.

유자광은 1498년(연산 4년) 성종실록 편찬 과정에서 김종직의 조의제문이 세조를 비난한 것이라는 상소를 올려 무오사화를 촉발했다. 조의제문 원문이 실린 『연산군일기』. [사진 국사편찬위원회]

AI는 객관적이고 냉정할 거라고 착각
바로 유자광이 충성스러운 말이 아니라 임금이 좋아할 만한 말과 행동을 잘했기 때문이다.

나라에 꼭 필요한 정책과 반드시 조정에서 해야만 하는 일 중에는 하기 싫은 일이나 귀찮은 일도 있을 것이다. 또 객관적인 정보를 얻으려고 하다 보면 기분 나쁘게 들리는 말이나 듣기 싫은 이야기도 듣게 된다. 정말로 나라와 임금의 미래를 걱정하는 충신이라면 임금이 잘못 내린 판단을 비판하면서 가로막아야 할 때도 생긴다. 그런데 사람인 이상 그런 이야기를 들으면 일단 싫은 기분이 든다. 아무리 도움이 되는 말이라도 계속해서 그런 이야기를 듣다 보면 점점 고깝게 들리고 그 말을 한 사람은 미워진다. 반대로 임금의 욕망이나 임금이 평소에 하고 싶었던 바를 눈치채고 그 비위에 맞는 말을 잘 해 주는 사람은 마음에 들기 쉽다. 임금은 그 말이 듣기 좋으니 결국 그 말이 옳고 그가 답을 갖고 있다고 믿고 싶어 진다. 그 믿음이 계속되다 보면 비위 잘 맞춰 주는 사람을 두고 나라에 좋은 정책을 잘 말해 주는 고맙고 충성스러운 신하라고 보게 된다. 이것이 간신들이 충신이라는 평가를 받는 이유다.

다행히 현대에는 이런 일이 덜 벌어진다. 여전히 직장 생활에서 높은 사람에게 잘 보이는 것은 중요하지만, 그래도 평등한 민주 사회라는 점을 상식으로 이해하고 사는 세상은 조선 시대와는 다르다. 솔직한 토론과 의견 교환의 기회도 더 많은 데다가 과도하게 아부하는 사람을 보면 본능적으로 “사기꾼 같다” “믿음직하지 못하다”는 거부감을 느끼는 것이 요즘 시대에 널리 퍼져 있는 감정이다. 즉, 간신을 충신이라고 착각하는 문제에 대해서라면 사람과 사람은 평등하다고 보는 우리 사회가 조선 시대 보다 유리하다. 그리고 그 덕분에 더 옳은 결정, 더 효율적인 결정을 해내기에 좋아졌다.

그런데 최근에는 사람이 아닌 인공지능이 일으키는 또 다른 문제가 생겨나고 있다. 특히 사람과 대화를 나누며 이런 저런 말을 해 주는 인공지능인 대규모 언어 모델, 즉 LLM(Large Language Model)의 부작용이 눈에 뜨인다.

우리나라를 포함한 전 세계에서 정신건강의학과를 방문하는 사람 중에는 자신이 진정한 우주의 진리를 깨달았다고 믿거나 자신이 신과 직접 소통할 수 있는 선택 받은 사람이라는 환상에 빠져 있거나 아니면 외계인이 우주 저편에서 자신의 뇌 속으로 보내는 비밀 신호를 해독했다고 찾아오는 등의 사람들이 꾸준히 나타나고 있다. 이런 식의 망상에 빠진 사람들이 과거에도 있기는 있었다. 하지만 요즘은 과거와는 상태가 또 달라지는 추세가 보인다고 한다.

누가 친한 친구에게 “뇌 속에서 외계인이 보내는 비밀 신호가 들리는 것 같다”고 털어 놓았다고 치자. 옛날 같았으면 그 친구가 곧장 그를 정신건강의학과에 데려갔을 것이다. 그러나 요즘은 그런 내밀한 이야기일수록 사람에게 털어놓기가 부끄러워서 인공지능에 먼저 말하는 경우가 많다. 이 또한 사람이 인공지능을 오히려 감성적으로 더 친근하게 여기는 인공지능 시대의 역설이다.

그런데 이럴 때 인공지능은 최대한 말하는 사람이 기분 나쁘지 않게 말을 하면서 그 사람과 계속해서 대화를 이어 갈 수 있도록 이야기하는 경향이 있다. LLM 인공지능 개발 업체에서는 그래야 사람들이 자기 회사 제품을 사람들이 좋아하고 많이 쓸 것이기 때문이다. 그렇다 보니 인공지능과 한두 달쯤 줄기차게 엉뚱한 소리를 나누며 자신의 망상에 대해 온갖 화려한 말로 비위를 맞춰 주는 인공지능의 이야기를 계속 듣다 보면 “나는 인류를 구할 깨달음을 얻은 게 분명하다”는 따위의 이상한 생각으로 똘똘 뭉치게 된다는 것이다.

보통 사람들이라면 그 정도의 망상에 쉽게 빠지지는 않을 것이다. 또 요즘은 인공지능 회사에서도 이런 문제를 알고 있어서 너무 해로운 말의 부작용을 막는 기능을 추가하고 있기도 하다. 그러나 그래도 인공지능으로부터 얻은 정보가 내가 듣기 좋아하는 쪽으로 기울어진 말일 수 있다는 문제의 뿌리는 여전히 남아 있다. 이것을 인공지능의 시코펀시(sycophancy), 곧 아첨 문제라고 부른다. 인공지능이 유창하게 빨리 답을 말하기 위해서 있지도 않은 엉뚱한 사실을 멋대로 지어내서 대답하는 할루시네이션(hallucination), 곧 환각 문제는 이제 꽤 유명하다. 그런 만큼 여러 방법으로 할루시네이션 문제는 그간 개선되었다. 또 여러 사람이 환각을 조심해야 하니 인공지능이 하는 모든 말을 다 믿으면 안 된다는 이해도 갖게 되었다. 그러나 아첨은 덜 알려져 있고 더 해결하기 어렵다.

아첨하는 인공지능은 얼핏 보았을 때 마음에 쏙 드는 답을 준다. “누구를 해고할까”라는 질문에 인공지능은 내가 감정적으로 가장 싫어하는 사람을 짚어 주면서 이런저런 이유를 붙여 줄 수 있다는 뜻이다. 사람은 한번 마음에 드는 결론이라고 생각하고 나면 어떻게든 그 분석이 맞다는 쪽으로 이유를 찾고 싶어 한다. 게다가 옛날 만화, 영화를 보면 로봇은 감정이 없고 계산만 잘 한다는 장면이 많이 나왔는데 그런 고정관념 때문에 우리는 무심코 인공지능의 말은 객관적이고 냉정할 거라고 착각하기도 한다. 그 탓에 인공지능의 아첨까지도 이성적인 분석이라고 여기기 쉽다.

나아가 나는 아첨 때문에 인공지능이 다른 신기술에 비해 높은 사람들 사이에서 유독 더 인기를 끈다는 생각도 해 본다.

인공지능과 대화하면서 요즘 젊은 사람들과의 긴 토론에서도 쉽게 얻지 못하는 날카로운 통찰력을 얻었다고 여기거나, 정말 마음에 쏙 드는 분석 보고서를 금방 얻었다고 생각하는 어느 높은 사람을 상상해 보자. 실제로 인공지능을 잘 활용한 결과일 수도 있다. 하지만 그냥 자기 마음에 잘 드는 말을 빨리 잘해 주는 아첨을 보고 맞는 말 잘한다고 기뻐한 것일 수도 있다. 인공지능이 만들어 준 보고서나 도표에 오류가 있을 수 있는데도 완벽한 결과라고 쉽게 믿는 사람들이 많은 이유도 아첨과 관계 깊다. 언뜻 보았을 때 평소의 내 입장, 내 구미에 맞는 내용을 담고 있으면 그게 너무 마음에 들어서 세부사항까지 잘 맞는 좋은 결과라고 여기기 쉽다는 이야기다.

엉뚱한 사실 지어내는 ‘AI 환각’ 유명
하물며 인공지능이 준 분석 결과를 얻으면 요즘 유행하는 최신 기술을 나도 사용했다는 어떤 뿌듯함 같은 것도 느낄 수 있다. 나는 인터넷 게시판 같은 곳에 질문이 올라오면 “인공지능에게 물어보니 이렇게 답하더군요”라면서 인공지능이 해 준 말을 그대로 복사해 붙여 올리는 사람들이 너무 많은 이유도 이런 뿌듯함과 관련이 있을 거라고 생각한다.

한 발 물러서서 생각해 보면, 높은 사람들부터 인공지능이라는 새로운 기술에 관심을 많이 갖고 있다는 것 자체는 좋은 일일 수 있다. 그러나 사람들에게 정말 도움이 되는 활용을 위해서는 위에서부터 인공지능이 좋으니 이렇게 써라, 저렇게 써라, 인공지능을 더 많이 쓰라고 강제해서 사용하기보다는, 아래에서부터 나오는, 피곤하고 귀찮은 일을 해결하기 위해 인공지능을 쓰는 방법을 찾자는 제안에 더 관심을 가지면 좋겠다고 생각한다. 그것은 또한 아첨을 멀리하기 위해 오래전부터 알려진 방법과도 가까울 것이다.

곽재식 작가·숭실사이버대 교수. 공상과학(SF) 소설가이자 과학자. 과학과 사회·역사·문화를 연결짓는 과학 커뮤니케이터로 활동하고 있다. 『한국 괴물 백과』 『곽재식의 세균 박람회』 등을 냈다. 한국과학기술원(KAIST)에서 원자력 및 양자공학·화학을 전공, 연세대에서 공학박사를 취득했다.