[팩플] AI 챗봇 공평무사할까?…커지는 정치 성향 논란

인공지능(AI)은 공평무사할까. AI의 정치 성향을 둘러싼 편향 논쟁이 본격화하고 있다. AI 서비스 사용자가 급증하면서 온라인 여론을 형성하는 경로로 주목받고 있어서다.

무슨 일이야

최근 미국 AI 업계에 때 아닌 ‘사상 검증’ 논란이 확산하고 있다. 미국 정부가 AI의 공정성을 검증한다고 선언한 여파다. 지난 23일 도널드 트럼프 미국 대통령은 정부가 ’편향된 AI’를 수용하지 않겠다는 행정 명령을 발표했다. AI의 객관성이 정부 기준에 미달할 경우 해당 개발사는 미국 정부와 계약이 금지된다. 미 정부가 같은 날 발표한 ‘AI 행동 계획’의 일환이다. AI 관련 규제를 대폭 완화하고, 공정한 AI를 확산시키는 게 골자다.

미 공화당은 줄곧 AI의 편향을 지적해왔다. 지난 3월 짐 조던 하원 법사위원장(공화당)은 오픈AI, 구글 등 16개 AI 개발사에 이전 정부와 주고받은 모든 서류를 의회에 제출하라고 요구하기도 했다. AI 개발사가 민주당과 결탁해 보수를 폄훼하고 있다는 의혹에 기반을 둔 조치다.

정부 조치에 대해 반발도 나오고 있다. AI 검열은 표현의 자유 억압이라는 측면에서다. 조 바이든 정부에서 AI 특사를 지낸 루만 초우드리 휴메인인텔리전스 최고경영자(CEO)는 IT전문매체 테크크런치에 “결국 트럼프 대통령이 경멸하는 것들만 '편향 더미'로 내던져 질 것”이라고 지적했다. 백악관이 중립을 추구한다고 하지만, 정부 입맛에 맞는 AI만 살아남을 것이란 의미다.

이게 왜 중요해

뉴욕타임스(NYT)는 지난 23일 “AI 챗봇 문화전쟁이 시작됐다”는 기사에서 여론의 전장(戰場)이 ‘포털→소셜미디어(SNS)→AI챗봇’으로 달라졌다고 분석했다. AI를 통해 정보를 얻는 이용자들이 급증하고 있어서다. 포털 검색어 순위를 조작하고, SNS에 가짜 뉴스를 퍼트렸던 과거와 달리 지금은 AI가 정치적 의도를 담아서 답하게 하는 식으로 여론 조작 가능성이 더 커졌다는 취지다. AI 서비스의 경우 정보가 한 방향으로만 흐르는 탓에 위험성이 더 크다. AI는 이용자와 의견을 주고받지 않으며, 반론을 볼 수 있는 댓글 창도 없다.

AI, 정말 편향됐나?

지난 5월 스탠퍼드대 경영대학원이 발간한 ‘사용자 평가를 통한 LLM의 편향성 측정’ 논문에 따르면 빅테크의 AI 챗봇 8개 중 7개가 진보 성향을 가진 것으로 나타났다. 연구진이 AI에 정치 성향 관련 질문 30가지를 한 뒤, 시민 1만 명에게 AI의 답변을 평가하게한 결과다. 챗GPT의 정치적 편향성이 가장 컸다. 제미나이에 비해 4배 가량 높았다. 일론 머스크 테슬라 CEO가 ‘진실을 추구하는 AI’를 표방하며 내놓은 ‘그록’도 진보 성향을 가진 것으로 나타났다.

학계에선 AI의 정치 성향이 편향되는 이유를 두 가지로 추정하고 있다. AI가 온라인에서 수집한 텍스트 데이터 대다수가 이미 편향돼 있다는 것. AI는 통계적 확률에 따라 답변을 생성하는 경향이 있다. 태생적으로 비중이 큰 ‘다수’ 의견을 따라가고, 소수 의견은 무시한다. 최대진 이화여대 인공지능학과 교수는 “교과서(텍스트 데이터)가 편향돼 있으면 AI도 이를 따라갈 수밖에 없다”고 설명했다. 개발사가 학습 데이터를 조작해 편향을 유도한다는 주장도 있다. 미리 특정 단어의 가중치를 조절하는 것. ‘천안문 사태’와 관련된 대답을 회피하는 중국산 챗봇이 대표적이다. AI 스타트업 트릴리온랩스의 신재민 대표는 “AI 개발사는 마음만 먹으면 (AI의) 정치적 성향을 결정할 수 있다”고 주장했다.

국내에서는

네이버는 AI 학습 단계부터 안전장치를 적용하고 있다. 포털을 운영하며 겪은 정치 편향 논란을 방지하려는 조치다. 2021년부터 1년 6개월간 최예진 워싱턴대 컴퓨터학과 교수 등 외부 전문가 12명과 함께 AI의 편향을 제거하는 데이터 세트(데이터 집합) 제작법을 개발했다. 내부에는 ‘레드팀(AI의 결함을 내부에서 공격하는 조직)’을 운영해 데이터를 검증하는 중이다. 두 과정을 통과한 데이터만 거대언어모델(LLM)에 학습시키겠다는 것. 다만 이런 이유 탓에 네이버 AI 이용자가 많지 않다는 한계가 있다. 개발 속도가 늦어진데다, 재미 측면에서 떨어지기 때문이다. 리서치업체 와이즈앱·리테일에 따르면 지난 6월 기준 국내 범용 AI서비스 월간 활성 사용자 수는 챗GPT(1844만명)가 1위였다. 2위 뤼튼(245만명)보다 압도적으로 많았다.

상황이 이렇다보니, 한국에서도 AI 서비스 편향 문제에 대한 우려는 커지고 있다. 김주호 KAIST 교수는 “외산 AI는 이미 미국 중심적인 가치관을 구축했다”며 “(AI의) 학습 과정이 비공개인 탓에 시정을 요구하기도 어렵다”고 말했다. 학계에선 이를 방지하기 위해선 AI가 지켜야 할 최소한의 원칙을 세워야 한다는 주장이 나온다. 최대진 교수는 “개발자 뿐 아니라 정치학자 등도 개발 초기 단계에 참여해 국내에서 쓸 AI에 적용할 대원칙을 마련해야 한다”고 주장했다.

더중앙플러스 : 팩플

더 자세한 기사 내용이 궁금하시다면, 기사 링크를 복사해 주소창에 붙여넣으세요.

퍼플렉시티 추천에 간택됐다, AI 검색에 걸린 韓기업 전략
검색의 시대, 검색 결과 상단 노출을 위해 치열한 마케팅 경쟁을 벌여 온 이들의 전장(戰場)이 서서히 옮겨가고 있다. 구글, 네이버 검색 대신 이들이 향한 곳은? 챗GPT나 제미나이, 퍼플렉시티 등 ‘인공지능(AI) 검색’ 판이다. 앞서 가는 마케터들 사이에선 최근 AI의 ‘간택’을 받을 수 있게 콘텐트를 작성하는 비기(祕器), ‘답변엔진최적화(AEO)’가 뜨고 있다. 마케팅을 전공하지 않아도, AI를 잘 몰라도 누구든 한 번에 이해할 수 있는 AEO 실전 활용법을 담았다.
https://www.joongang.co.kr/article/25347026

IT 천재는 이렇게 기록한다…잡생각 다 엮어주는 ‘메모앱’
아침에 샤워하다 떠오른 비즈니스 아이디어가 점심시간 읽은 기사와 연결되고, 그게 또 예전에 봤던 영화의 한 장면과 묘하게 겹치면서 뭔가 대단한 깨달음이 올 것 같은데… 안 온다. 쓸데없는 생각이라도 끊임없이 연결시켜 생산적인 아이디어로 발전시킬 수 없는 걸까? 수없이 많은 일기장과 기록을 남기지만, 쉽게 찾기도 힘들고 네트워크화하기도 어렵다. 옵시디언은 이 같은 페인 포인트를 한방에 해결해 주는 생산성 도구다. 당신의 산발적인 여러 생각들을 날줄과 씨줄로 엮어 그럴듯한 아이디어로 뽑아낼 수 있게 도와준다. 옵시디언의 기초 사용법부터 AI를 결합해 더 똑똑하게 쓰는 방법까지, 담았다.
https://www.joongang.co.kr/article/25352255

오현우([email protected])