“AI 위험성 연구? 돈 안 된다”…9.9조 AI 예산의 씁쓸한 민낯 [AI발 인류지능 퇴보]
지난 8일, 국가인공지능전략위 출범 1주년 성과보고회에 참석한 하정우 국가인공지능전략위원회 상근부위원장의 모습. 연합뉴스
출범 1년을 맞은 국가인공지능전략위원회가 지난 3월 발표한 ‘2026년 AI 재정사업 현황’에는 총 533개의 인공지능(AI)과 관련된 정부사업들이 소개됐다. 이 중 AI의 역기능에 대해 직접적으로 언급하고, 이에 대비하기 위해 예산을 집행하고 있는 사업은 방송미디어통신위원회(방미통위) 소관 사업 2개뿐이었다. 이외 대부분의 사업은 산업 진흥과 기술 개발, AI 관련 시스템 구축 등 AI의 순기능이나 산업적 이익만을 전제로 설계되어 있었다.
AI는 산업혁명과 디지털혁명에 비견된다. 많은 사람이 AI가 인류를 전에 없던, 여러 차원을 뛰어넘은 ‘고도 발전 사회’로 이끌어 줄 것이란 기대에 부풀어 있다. 그러나 스스로 ‘AI 밥’을 먹고 산다고 말하는 한 국내 IT 업계 관계자는 “AI 기술 발전 덕분에 수많은 기업이 돈을 벌고 이용자들은 편리함을 축제처럼 즐기고 있지만, 모두 다 즐겁기만 한 축제는 없다. 누군가는 축제 소음을 생각하고, 쓰레기 발생과 무질서 문제를 생각해야 한다. 그게 바로 정부”라고 말했다.
단기적으로는 AI 기술의 범죄 악용 가능성이나 직장·학교에서 몰래 AI를 사용해 불공정한 결과를 낳는 것 등이 문제로 꼽히지만, 장기적으로는 AI 과의존에 따른 지능 퇴화와 인간과 인간 사이의 단절이 가장 치명적인 문제가 될 것이라는 게 학자들의 전망이다. 한소원 서울대 심리학과 교수는 “AI 산업 발전도 물론 중요하지만, 지금은 모든 정책이 그쪽에만 집중된 것으로 보인다. AI 사용으로 인한 학습 능력 퇴화, 관계 파탄 등에 대한 부작용이 분명하기 때문에, 정책에서라도 균형을 잡는 작업이 시급하다”고 강조했다.
방미통위에서 추진하는 2개 사업의 목적도 “AI의 환각, 비윤리성, 권리 침해, 범죄 악용 등 위험성·역기능을 제보받는 플랫폼을 운영”(안전한 AI 활용기반 조성), “신기술의 사회적 위험과 기회, 이용자 권리 침해 가능성과 정부 개입 필요성 등에 대한 경험적 근거 마련”(지능정보 사회 이용자 보호 환경 조성) 등이다. 다만 두 사업에는 각각 2억7800만원, 11억4100만원의 예산만이 책정됐다. 반면 정부가 지난해보다 3배를 늘려 편성한 올해 AI 관련 예산은 총 9조9000억원에 달한다.
━
정부도 고민 중…과기부는 ‘윤리원칙’ 발표
하지만 지난 1일 이 부처들이 국회에 제출한 2027년 예산안에서도 AI 역기능과 관련된 사업은 극히 일부만 반영된 것으로 파악됐다. 과기부 관계자는 “정부안으로 제출한 사업 중 AI 역기능 대응을 위한 실증·확산 사업이 있다. 이외에도 AI 안전성·신뢰성 확보를 위한 사업으로 넓히면 더 많다”고 밝혔다. 하지만 교육부 등 타 부처의 경우 정책 의지의 척도로 볼 수 있는 예산이 배정되지 않았기 때문에 사실상 손을 놓고 있는 것 아니냐는 지적이 나온다. 이에 대해 교육부 관계자는 “내년 예산안에 포함되는 (AI 역기능 관련) 새 사업은 별도로 없지만, AI 과의존 등 역기능 예방을 위해 ‘초중등 분야 생성 AI 활용 가이드라인’과 ‘AI 교육 윤리원칙’을 하반기 중으로 발표할 수 있도록 준비 중”이라고 밝혔다.
2024년 제420회국회(임시회) 제1차 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(AI기본법)이 재적 300인 중 재석 264인, 찬성 260인, 반대 1인, 기권 3인으로 통과됐다. 뉴스1
정부 관심에서 한발짝 벗어나 있다 보니 관련법 역시 제대로 갖춰지지 않고 있다. 현행법상 AI를 대상으로 하는 포괄적 기본법은 지난 1월 22일부터 시행된 ‘AI기본법’(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)뿐이다. 이 법에 명시된 인공지능전략위의 기능 13항 중 과반이 ‘산업 진흥’을 목표로 한다. 2024년 제정된 유럽연합의 AI법(EU AI Act) 같은 규제 목적의 입법 필요성도 제기된다. 해당 법은 인공지능을 위험 수준에 따라 분류하고, 위험에 따른 차등적 의무부과를 명시한 포괄적 AI 규제법이다.
때문에 학계에선 ‘산업 진흥’을 위한 연구일수록 지원을 잘 받을 수 있다는 이야기까지 오가는 실정이다. 한 사회과학계열 학과의 교수는 “AI의 위험성을 다루는 인문학적 연구나 장기적으로 AI의 위험성을 가늠하는 추적 연구의 지원은 ‘당장 돈이 되지 않는다’ ‘산업 발전을 방해한다’는 분위기라 지원받기 어렵다”고 말했다. 한소원 교수는 “한국에서도 AI의 위험성을 다루는 연구가 시작되고 있는 걸로 알지만, 윤리적인 면에서 다뤄진다. 사회적 영향이나 정서적 영향 등에 관한 연구는 시간이 많이 필요해 극히 적은 편”이라고 전했다.
결국 정부 차원의 촘촘한 대응 방안과 이를 일관되게 실행할 컨트롤타워, 그리고 예산이 갖춰져야만 한다는 게 업계의 공통된 시각이다. 현재 각 부처의 AI 정책을 심의하고 조정하는 인공지능전략위가 있지만, ‘산업 진흥’을 목적으로 만들어진 기구인 데다 대통령 직속 자문위원회에 그쳐 한계가 있다는 지적도 나온다. 예산을 써서 정책을 직접 집행하거나 부처의 결정을 강제할 수 있는 법적 권한은 없기 때문이다. 유현재 서강대 커뮤니케이션학부 교수는 “(전략위에게) 실질적인 권한을 부여해야 피부에 와 닿는 변화가 생길 것”이라며 “컨트롤타워 격인 전략위가 기술진흥 외에도 과의존 문제나 지식의 외주화 문제를 함께 이야기할 수 있어야 장기적으로 ‘AI 성숙 국가’가 될 수 있다고 본다”고 제언했다.
최혜리([email protected])