“AI에 인지항복 위기…한국판 AI 규제법 만들어야”

대학생 전수현(24·남)씨는 최근 학교 수업에서 황당한 일을 겪었다. 교수가 질문하면 학생들이 자유롭게 자신의 의견을 말하는 실시간 토론 수업이었는데도 생성 인공지능(AI)을 쓰는 옆자리 학생을 발견해서다. 전씨는 “다른 학생들이 대답하는 사이에 질문을 AI에게 해 답변을 받은 뒤 그것을 마치 자기 생각처럼 발표했는데도 교수님은 전혀 눈치를 못 채셨다”고 했다.

김주원 기자

AI 확산이 사람들의 학습과 업무 능력 향상에 걸림돌이 되면서 대학과 기업들의 고심도 커지고 있다. 22일 중앙일보가 국내 주요 24개 대학을 대상으로 한 설문조사에서 ‘부정행위 등을 막기 위해 AI 방지책을 도입했는지’ 묻는 말에 22개 대학이 ‘그렇다’고 답했다. 수업 중 ‘AI 사용 범위를 제한’ 하는 내용을 담은 대학은 7곳이었다.

김주원 기자

부작용 늘자 외국선 미성년자 AI 금지
기업들도 ‘AI 리스크’를 우려하고 있다. 대표적 AI 기업인 앤트로픽은 모든 지원자의 제출물에 AI를 쓰지 않겠다는 지원자 동의를 받는다. 구글도 면접 전에 AI를 쓰면 탈락한다고 지원자에게 고지하고, 가급적 AI를 쓸 수 없는 대면 면접으로 채용을 진행하고 있다.

미성년자들이 AI에 정서적으로 의존하는 부작용이 늘자 아예 AI 연령 제한을 택하는 나라도 나오고 있다. 중국에서는 올해 4월부터 미성년자 대상으로 AI 연인이나 가족 서비스를 제공하지 못한다. 호주도 지난 3월부터 ‘AI 컴패니언(정서적 동반자)’ 서비스에서 18세 미만에게 성적 콘텐트나 폭력물 제공을 금지했다.

우리 정부 역시 대책을 마련 중이다. 지난 8월 과학기술정보통신부는 부처 합동으로 AI 시대 인간과 사회, 인류 차원에서 추구해야 할 근본 지향점을 담은 ‘대한민국 인공지능 윤리원칙’을 발표했다. 지난 3월엔 교육부·방미통위·과기부·성평등가족부가 “안전하고 포용적인 AI·디지털 사회 실현을 위해” 업무협약을 체결하고 과의존 예방을 위한 AI 윤리·안전 제도 정비, 학교와 청소년 시설 등을 활용한 디지털 제고 등을 목표로 협력을 강화할 계획임을 밝혔다. 하지만 지난 1일 이 부처들이 국회에 제출한 2027년 예산안에서도 AI 역기능과 관련된 사업은 극히 일부만 반영된 것으로 파악됐다.

관련법 역시 제대로 갖춰지지 않고 있다. 현행법상 AI를 대상으로 하는 포괄적 기본법은 지난 1월 22일부터 시행된 ‘AI 기본법’(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)뿐이다. 이 법에 명시된 인공지능전략위의 기능 13항 중 과반이 ‘산업 진흥’을 목표로 한다. 2024년 제정된 유럽연합의 AI법(EU AI Act) 같은 규제 목적의 입법 필요성도 제기된다. 해당 법은 인공지능을 위험 수준에 따라 분류하고, 위험에 따른 차등적 의무 부과를 명시한 포괄적 AI 규제법이다.

이 때문에 대응 방안과 이를 일관되게 실행할 컨트롤타워, 그리고 예산이 갖춰져야만 한다는 게 업계의 공통된 시각이다. 현재 각 부처의 AI 정책을 심의하고 조정하는 인공지능전략위가 있지만, ‘산업 진흥’을 목적으로 만들어진 기구인 데다 대통령 직속 자문위원회에 그쳐 한계가 있다. 예산을 써서 정책을 직접 집행하거나 부처의 결정을 강제할 수 있는 법적 권한은 없다.

교육·심리학자들은 AI에 인지·감정적으로 종속되지 않기 위해서는 개인적 경각심과 인지력 유지를 위한 꾸준한 노력이 필요하다고 강조한다. 신종호 서울대 교육학과 교수는 “최근엔 인지 외주를 넘어서 ‘인지 항복’이라는 말까지 나온다. 인간 스스로 ‘난 아무것도 못 해요’ 하고 AI에 종속되는 것”이라고 우려했다. 그는 AI 과의존을 막기 위한 방법 중 하나로 아날로그 경험을 제시했다. “외부의 도움 없이 머리를 쥐어짜내 생각하는 노력과 실제 경험을 통해 배우는 것”이라고 했다. 이 두 가지가 켜켜이 쌓여야 생각하는 힘이 강해진다는 것이다.

“AI가 남편보다 낫다”는 농담까지 나와
AI 의존에 따른 지적 능력 퇴보를 경고한 『지능파산』의 저자 한소원 서울대 심리학과 교수는 사회적 상호작용의 중요성을 강조했다. 그는 ‘젠지스테어’를 맞닥트린 경험이 책 집필 계기 중 하나가 됐다고 말했다. Z세대(1997~2006년생)와 응시한다(stare)를 합친 신조어 젠지스테어는 젊은 세대가 인사나 질문에 대답하지 않고 가만히 바라보기만 하는 모습을 가리킨다. 한 교수는 “사람들이 스스로 생각하는 능력뿐만 아니라 다른 사람과 상호작용하는 능력까지 AI에 외주하고 있는 건 아닌지 우려됐다”고 했다. 그는 “AI는 언제나 사용자 말에 귀 기울이고 편들어주기 때문에 흔히 ‘AI가 남편보다 낫다’ 등의 농담 아닌 농담을 한다”며 AI가 가져다주는 정서적 안정감을 현실 인간관계와 같은 사회적 교류로 착각해선 안 된다고 지적했다.

AI에 종속되는 현상을 벗어나기 위한 방법으로 한 교수는 생각의 주도권을 갖고, 평소에도 연습을 통해 생각하는 힘을 길러야 한다고 말했다. “AI를 쓰기 전에 15분은 스스로 먼저 생각한 다음 검색하는 습관을 두거나, 자기 스스로 AI 사용을 금지하는 시간을 정해 둔다면 생각 연습에 도움이 된다”고 조언했다.





오삼권.최혜리.한찬우.곽주영([email protected])