[AI 인사이트] 정보의 평준화와 민주주의의 위기

김선호 USC 컴퓨터 과학자

인공지능(AI)은 이미 일상의 곳곳에서 활용되고 있다. 검색 추천, 자동 기사 작성, 음성 인식, 챗봇 응답 등 다양한 분야에서 AI가 인간의 지식과 판단에 이미 영향을 미치기 시작했고 앞으로 더욱 심화될 것이다.  
 
여기에 심각하게 고려되어야 하는 사실이 있다. AI의 본질적 작동 원리인 ‘기계학습(machine learning)’은 방대한 과거의 데이터를 기반으로 평균적인 패턴을 통계적 경향을 중심으로 학습하는 구조를 갖고 있다. 이 과정에서 독창적이고 예외적인 정보는 상대적으로 무시되며, 자주 나타나는 보편적 요소가 강조된다.  
 
과거의 사실에 기반한 예측의 정확성과 효율성은 높아지지만, 그 반대급부로 존재하지 않던 현상에 관한 새로운 창의성과 다양성은 희생된다. 문제는 이러한 기계적 판단이 단순한 기술 영역을 넘어서 사회적 판단, 더 나아가 정치적 의사결정에도 영향을 미친다는 점이다.
 
최근에는 AI를 활용해 작성된 콘텐츠가 블로그, 기사, 보고서, 심지어 논문까지 확산하고 있다. 이들 대부분은 AI가 과거의 데이터를 조합해 만들어낸 ‘가공된 평균’에 가깝다.  
 

우려스러운 것은, 이러한 콘텐츠가 다시 인터넷을 통해 공개되고 축적되고, 향후 AI 학습 데이터로 재사용되면서 AI가 자기가 만든 콘텐츠를 반복 학습하는 ‘자기 복제’ 현상이 나타나고 있다는 점이다. 이 과정이 반복되면 콘텐츠의 표현은 달라도 본질은 동일한, 이른바 ‘정보의 평준화’가 심화할 수밖에 없다.
 
이러한 정보의 평균화는 단순한 기술 문제가 아니다. 이는 사회 전반의 인식 구조를 획일화시키고, 시민들의 사고방식과 가치판단에 직접적인 영향을 미친다. 특히 다수의 판단이 중요한 민주주의 체제에서는, 시민 개개인이 어떤 정보를 접하고, 어떻게 인식하는지가 정치적 방향에 결정적인 영향을 미친다.  
 
그런데 대중이 AI가 생성한 평균적인 정보에 반복적으로 노출되면, 복잡한 논점에 대한 비판적 사고는 약화하고, 익숙하고 쉽고 안전한 판단만이 강화된다. 그 결과 민주주의는 점차 ‘위험 회피형 의사결정’으로 기울 수 있다. 새로운 해결책이나 문제 제기는 거부되고, 기존 질서를 유지하는 보수적 판단이 선호된다.  
 
정보의 다양성이 줄어들면 정치적 상상력 역시 위축되기 마련이다. 이는 변화와 진보를 저해하고, 사회 전체를 정체된 상태로 이끌 수 있다. 정보의 다양성과 진정성이 사라진 사회에서는 창조적인 담론도, 실질적인 개혁도 기대하기 어렵다.
 
그렇다면 이러한 평균화의 함정에서 벗어나기 위해 사회는 어떤 대응을 해야 할까. 우선적으로, 인간이 직접 생산한 고유한 콘텐츠의 가치를 제도적으로 보호할 필요가 있다. AI 학습 데이터에서 인간 창작물의 우선권을 보장하고, 저작자에게 정당한 보상을 제공하는 시스템이 요구된다.  
 
또한 AI가 생산한 정보에는 그 출처를 명확히 표시해, 이용자가 그 내용을 스스로 판단할 수 있도록 해야 한다. 교육의 역할도 중요하다. 정보의 단순 소비에서 벗어나, 정보의 출처와 구조를 분석하고 그 이면의 의도를 파악하는 비판적 사고 교육이 강화되어야 한다. 시민이 평균적인 정보에 끌려가기보다는, 정보의 질과 맥락을 구분할 수 있어야 민주주의적 판단이 가능하다.
 
정치 시스템 역시 재설계가 필요하다. 소수 의견과 실험적 제안이 다수의 표결에 묻히지 않도록 제도적 보완 장치가 마련되어야 하며, 정치권도 다수의 논리만 좇아 흑백논리를 따를 것이 아니라  새로운 담론을 실험하고 수용할 수 있는 문화와 태도를 갖춰야 한다.  
 
인공지능 시대의 민주주의는, 단순한 효율성과 예측 가능성만으로 유지될 수 없다. 기술은 도구이어야 하며, 사회의 방향은 결국 사람이 정해야 한다. 지금 우리가 경계해야 할 것은 기술 자체가 아니라, 기술이 만들어내는 획일적 사고의 지배다.

김선호 / USC 컴퓨터 과학자