김선호 USC 컴퓨터 과학자
해당 정책에 대해 시민들은 교통 흐름 개선과 버스 운행의 정시성 향상, 그리고 불법주차 근절에 효과적이라는 긍정적인 반응을 보였다.
반면, AI 단속 과정에서 발생할 수 있는 프라이버시 침해, 감시 사회화 문제, 그리고 오탐지 가능성에 대한 우려도 동시에 제기되었다.
이에 따라 AI 활용 시 투명성 확보와 정확성 제고, 개인정보 보호를 위한 대책 마련이 필요하다는 목소리가 높아지고 있다. 앞으로 공공정책과 서비스에 AI가 더욱 광범위하게 도입될 것이 예상되는 만큼, 공공분야 AI 활용의 장단점을 면밀히 살피는 일은 매우 의미 있는 과제로 떠오르고 있다.
예를 들어, 민원 응대를 담당하는 AI 챗봇은 반복적이고 단순한 질문에 자동으로 응답해 민원 처리 시간을 줄여준다. 교통 AI 시스템은 실시간 교통 데이터를 분석해 신호 체계를 동적으로 조정함으로써 도심의 교통 혼잡을 완화하는 데 기여한다. 또한 대량의 데이터를 분석해 복지 수요를 예측하거나 자연재해 및 재난 발생 가능성을 조기에 탐지하는 등 정책 결정의 정밀성과 공공 안전 관리 능력을 획기적으로 향상시킨다. 급격한 AI 기술 발전 속도를 고려할 때, 향후 더 많은 중요 공공 정책과 서비스를 AI가 맡을 가능성이 크다.
하지만 이러한 혜택과 함께 AI 활용에 따른 부작용과 위험도 함께 증가하고 있다. 그중 심각한 문제는 AI 오류 발생 시 책임 소재에 대한 불명확성이다. 네덜란드 정부가 도입한 복지 부정 수급자 적발 AI 시스템 ‘SyRI’는 저소득층과 이민자 밀집 지역을 집중 표적 삼아 사회적 논란이 불거졌고, 알고리즘의 불투명성까지 문제로 지적되어 결국 법원의 위헌 판결을 받았다.
영국에서도 코로나19로 대학 입학시험이 취소되자 AI가 자동으로 성적을 산출했으나, 저소득층 학생들에게 불리하게 작용해 학부모와 학생들의 반발을 샀고, 정부가 정책을 철회하는 사례가 있었다. 이처럼 AI가 공공정책 결정에 개입할 때, 판단 과정이 불투명하거나 차별적 결과를 낳으면 대중의 저항은 불가피하다.
이를 해결하기 위해 전문가들은 AI 알고리즘의 투명성 확보, 사전 영향 평가를 통한 편향 점검, 외부 감시와 시민 참여의 제도화를 강조한다. 더불어 AI가 내린 판단을 최종적으로 인간이 검토하는 ‘Human-in-the-loop’ 구조를 도입해 공공성 훼손을 막는 안전장치도 필수적이다. 공공분야 AI는 단순한 효율성 추구를 넘어 공정성과 신뢰를 기반으로 운영되어야 하며, 이를 위한 정책적 고민과 법·제도적 준비가 시급하다. 하지만 외부 감시와 시민 참여는 이상적인 명제일 뿐, 현실에서는 비용과 자원 문제로 실행이 쉽지 않은 과제다. 따라서 완전한 참여 민주주의에 이르기보다는 비용과 현실성을 고려한 단계적·현실적 접근이 필요하다.
예를 들어, 복지, 치안, 의료 등 고위험 분야에 우선적으로 외부 감시를 도입하거나 대학, 비영리 시민단체와 협력해 저비용 참여 모델을 구축하는 방안이 있다. 그럼에도 “누가 이런 어려운 일을 자발적으로 수행할 것인가?”라는 질문은 가장 현실적인 난제 중 하나다.
이 난제의 해법은 참여자들에게 정당한 보상과 사회적 의미, 실질적인 영향력을 제공하는 유인 구조를 만드는 데 있다. 시민단체는 공공성 확보를 목적으로 이미 활발히 활동하고 있으며, 연구자들은 학술적 성과와 정책 영향력 강화를 위해 참여한다. 일반 시민도 적절한 보상과 참여의 의미가 주어진다면 충분히 참여할 수 있다. 공공기관 내부에 전담 조직을 두고 외부와의 소통 창구 역할을 하게 하면 감시 체계의 안정성과 지속성 확보도 가능하다.
결국 공공분야 AI가 효율성과 함께 공정성, 투명성, 신뢰를 갖춘 체계로 자리 잡으려면 이러한 다각적이고 현실적인 노력과 제도적 기반 구축이 무엇보다 중요하다.
김선호 / USC 컴퓨터 과학자