한국에서 세계 최초의 인공지능(AI) 기본법이 22일부터 시행된다. 국내 AI 사업자들은 AI를 활용한 제품이나 서비스에 ‘AI 사용’ 사실을 의무적으로 표기해야 한다. 정부는 현장의 혼란을 고려해 1년 이상 규제를 유예하기로 했으나, AI 기본법이 국내 AI 산업의 족쇄로 작용할 수 있다는 우려는 계속되고 있다.
AI 기본법은 산업에 대한 정의부터 지원, 제재 방안까지 포괄적으로 담아 ‘AI 헌법’으로 불린다. AI 연구개발(R&D)과 학습용 데이터 구축 등 AI 산업 발전을 위한 지원 방안이 명시돼 있다. AI의 투명성 확보 의무, ‘고영향 AI’ 개념 도입 등 안전장치도 마련됐다. 앞서 유럽연합(EU)이 먼저 법제화에 나섰지만 일부 국가들의 반발로 시행을 연기하면서 한국이 첫 시행 국가가 됐다.
과학기술정보통신부는 AI 기본법이 규제가 아닌 ‘진흥’에 방점을 뒀다고 강조했지만, 의무 위반 시 과태료가 부과되는 등의 제재 조항이 부각되면서 국내 AI 업계에선 ‘모래주머니’를 달고 뛰게 된 꼴이라는 반응이 나온다. AI 생성물에 워터마크를 표시하는 투명성 확보 의무가 대표적이다. AI를 활용한 제품이나 서비스를 제공하는 사업자는 이용자에게 AI 사용 사실을 고지해야 한다. 하지만 사업자와 이용자의 구분이 모호하고, 표시 방법도 명확하지 않다는 지적이 제기됐다.
더 큰 문제는 해외 AI 기업은 사실상 제재가 어렵다는 거다. 세계 매출 1조원, 국내 매출 100억원, 일평균 이용자 100만명 이상 중 하나라도 해당하는 해외 사업자는 국내 대리인을 지정하도록 했는데, 이를 만족하는 기업은 구글과 오픈AI를 제외하면 극소수에 불과하다. 국내 AI 웹툰 스타트업 관계자는 “해외에선 AI 콘텐트 창작에 막대한 자본을 투자하고 있는 상황”이라며 “규제에 묶여 기술력을 축적할 타이밍을 놓치면 문화 콘텐트 강국의 지위를 잃을 수 있다”고 우려했다.
AI 기본법이 정의하는 고영향 AI의 기준도 불분명하다. 기본법 25조 등에 따르면 사람의 생명, 안전 및 기본권에 중대한 영향을 미치는 AI는 ‘고영향 AI’로 판단해 추가적인 의무가 부과된다. 정부는 고영향 AI의 예시로 에너지, 교통, 의료, 교육 등 10개 영역을 제시했지만, 기업이 스스로 고영향 AI에 해당하는지 판단하기 어렵다는 지적이 나온다. 최성진 스타트업성장연구소 대표는 “추후 법적 다툼에 휘말렸을 때 민·형사상 ‘고영향’ 판단 여부는 법원 판단에 따라 달라질 수 있다”고 말했다.
과기정통부는 법 시행 전인 21일 설명회를 열고 AI 기본법의 세부 적용 기준을 구체화했다. 고영향 AI는 최종 의사결정 과정에 사람이 개입하는 경우 통제 가능한 것으로 판단해 대상에서 제외한다. 과기정통부 관계자는 완전 자율주행 단계인 레벨 4 이상의 차량 정도가 해당한다고 설명했다. 투명성 확보 방안으로 가시적 표시뿐 아니라 비가시적 표시 방식도 허용한다고 밝혔다. 다만 딥페이크 생성물은 오용을 방지하기 위해 이용자가 명확하게 인식할 수 있도록 고지해야 한다는 점을 분명히 헀다. 정주연 스타트업얼라이언스 선임전문위원은 “콘텐트, 플랫폼 관련 법에서 이미 규제하고 있는데도 추가로 검토해야 하는 부담이 커졌다”고 말했다.
정부는 현장의 우려를 반영해 최소 1년 이상 규제를 유예하기로 했다. 이 기간 사실조사나 과태료 부과는 이뤄지지 않는다. 대신 AI 기본법 지원데스크를 개설해 혼란을 최소화한다는 방침이다. 전문가들은 규제 유예기간을 ‘골든타임’으로 보고 이 기간 대응 인프라를 갖춰야 한다고 지적했다. 최경진 가천대 법학과 교수는 “유예기간 동안 최대한 사례를 많이 축적해 예측 가능성을 높이는 것이 중요하다”며 “합리적인 방향의 법 개정이 필요할 수 있다”고 조언했다.
장윤서([email protected])