[시론] 자율주행차를 ‘고위험 AI’로 보면 안 되는 이유

운전자 없는 로봇택시 수준까지는 아니라도 요즘 한국 도로에서도 감독형 자율주행차가 많이 달리고 있다. 미국 테슬라는 전 세계에서 자율주행차를 가장 많이 판매하면서 수익도 올리고, 팔린 차를 통해 데이터를 공짜로 습득·학습하면서 인공지능(AI) 기술도 개발한다. 테슬라는 오는 2월 중순부터 자율주행시스템을 소프트웨어처럼 월 구독료 방식으로 판매하겠다고 최근 발표했다.

테슬라, 자율주행차를 SW로 규정
월 구독료 받으며 팔겠다는 판에
AI 기본법, 국가경쟁력 저해 우려

한국이 산업용 로봇밀도에서 압도적 세계 1위를 유지하는 비결은 전자·전기와 자동차 덕분이다. 한국 제조업은 전 세계에서 로봇을 제일 많이 쓰고 있고, 자동차 제작에 로봇은 이미 표준장비가 됐다. 이제는 AI와 로봇이 제작하고 AI가 운행까지 하는 자동차라는 단말기에 인간이 탑승하면서 AI 사용료를 지불하는 시대로 바뀌고 있다. 실제로 테슬라는 AI 시대를 맞아 자동차 본질을 서비스형 소프트웨어로 재정립하고 있다.

지난 22일부터 한국에서 ‘AI기본법’이 시행됐다. 법 위반에 대한 제재 시기는 유예했지만, 세계 최초로 ‘고위험 사업자 규제법’이 시행됐다는 기록을 세웠다. 그런데 한국의 AI법에 큰 영향을 준 유럽연합(EU)은 고위험 AI에 대한 규제를 최근 연기했다. 가장 큰 이유는 AI의 발전 속도와 혁신을 규제 위주의 법으로 대응하면 자칫 글로벌 경쟁에서 더 뒤질 수 있다고 우려했기 때문이다.

EU의 AI법은 한국 AI법과 마찬가지로 AI 사업자에게 고위험을 관리할 책임을 부과하면서 위반하면 제재하는 구조다. 이런 상황에서 정작 고위험인지 아닌지를 객관적으로 판단하는 것부터 어렵다는 EU 내부의 고민도 크다. 2021년 처음 등장한 EU의 AI법 초안은 고위험 AI를 겨냥해 위험을 관리하겠다는 구상을 담았다. 당시의 명분은 인간의 생명, 신체의 안전, 기본권을 지키려는 것이었다. 구체적 방법은 AI를 사용하는 의도에 따라 영역별로 위험을 차별 규제하겠다는 것이었다. 하지만 2022년 미국에서 챗GPT가 나오면서 EU의 이런 구상은 치명상을 입었다.

챗GPT처럼 범용 AI는 사용 의도와 목적을 미리 정할 수 없기 때문에 어떻게 규제할지 딜레마가 있다. 결국 범용 AI는 모델 설계단계부터 개발자에게 투명성과 안전성 의무를 부과하는 방식으로 AI법이 만들어지면서 미국 측의 강한 반발을 초래했다. AI 사용으로 인한 결과적 위험을 미리 영역별로 관리해 인간을 지킬 수 있게 만든다는 EU의 구상이 범용 AI 출시 때문에 틀어진 것이다.

챗GPT 충격 이후 이제 AI가 생활 속으로 더 깊게 들어왔고 기술은 더욱 발전했다. 하지만 한국 정부가 만든 AI법의 고위험 AI 영역과 규제 방식은 EU법의 2021년 초안을 벗어나지 못했다. 오히려 전 세계에서 제일 먼저 전면적으로 시행하는 바람에 한국의 행보가 예의주시 대상이 됐다.

예를 들면 이미 시범운행 중인 레벨4의 자율주행차, 외국에서는 상용화된 로봇택시는 한국의 AI 법에 따르면 고위험 규제대상이 된다. 피지컬 AI 열풍이 뜨겁지만, 인간의 모습을 한 휴머노이드만 피지컬 AI가 아니라 도로환경에서 주위 상황을 인지하고 운전하는 자율주행차도 피지컬 AI다. 물론 오류 발생과 사고를 전제로 사전에 고위험 AI로 분류해 인간을 지키겠다는 의도는 좋다. 하지만 휴머노이드 로봇으로 가정에 들어오면 혁신이 되고, 자율주행차에 적용되면 고위험 사업자로 분류해 한국이 세계 최초로 규제한다면 국가경쟁력을 스스로 무너뜨리는 행위다.

테슬라는 저렴한 가격으로 더 많이 판매해 운전자별 행태에 따른 다양한 데이터를 전 세계에서 공짜로 더 많이 수집하고, 기술 개발에 매진하고 있다. 일시불이 아닌 월 구독 방식의 자율주행시스템 판매 정책까지 선보였다. 이런 기업들과 경쟁하기 위해서라도 한국 현실에 맞는 고위험 AI 영역과 규제 방법을 깊이 있게 다시 고민해야 한다.

예컨대 자율주행차가 사고를 낼 경우 영국 법처럼 보험회사가 먼저 보상해주고 구상권을 행사하게 하면서 자동차 제조사의 책임 부담을 덜어주면 어떨까. 오히려 고위험 AI 응용기술 개발에 전념하도록 도와주는 방안 등 다른 전략적 시선도 분명히 가능할 수 있을 것이다.

※ 외부 필진 기고는 본지의 편집 방향과 다를 수 있습니다.

방석호 법무법인 린 AI산업센터장