중국 교육컨설팅업체 설문…"대학생 과반, AI 결과물 직접 검증"
"中대학생 80%, 'AI 할루시네이션' 경험…표절·정보조작 우려"
중국 교육컨설팅업체 설문…"대학생 과반, AI 결과물 직접 검증"
(서울=연합뉴스) 김준억 기자 = 중국 대학생 10명 중 8명은 생성형 인공지능(AI)이 허위 정보를 생성하는 할루시네이션(hallucination·환각)을 경험한 적이 있으며, AI의 표절이나 정보 조작을 우려하는 것으로 나타났다.
19일 중국 관영매체 차이나데일리가 보도한 중국 교육컨설팅업체 마이코스(MyCOS)의 설문조사에 따르면 대학생의 79.2%는 AI 생성한 콘텐츠가 그럴듯하게 보이지만 허위인 사례를 경험했다고 답했다.
이런 AI 허위 생성에 따라 대학생의 57.4%는 권위 있는 출처 등을 활용해 직접 AI의 결과물을 검증한다고 밝혔다.
이 설문은 지난달 8∼21일 중국 대학생 2천971명과 교원 1천73명을 대상으로 온라인으로 진행됐다.
교원의 77.1%도 AI의 허위 생성을 경험했으며 57.2%가 직접 검증했다고 답했다.
또한 대학생 85.5%는 표절이나 정보 조작 등 AI의 위법 행위에 대해 우려를 표명했다.
아울러 대학생 67.8%와 교원 60.4%는 대학교에 명시적인 AI 활용 정책이 있다고 답했지만, 학생과 교원의 42%는 현 지침이 일부만 유효하다고 평가했으며 11%는 시대에 뒤떨어졌다고 지적했다.
상하이에 있는 푸단대 1학년 가오신씨는 차이나데일리에 AI를 하루에 한두 번 사용한다며 AI를 검색엔진처럼 활용하거나 보고서를 요약할 때 쓴다고 말했다.
가오씨는 "AI를 검색용으로 쓸 때는 출처로 활용한 웹사이트가 무엇인지 물어보고, 권위 있는 출처인지 확인하도록 요구한다"고 말했다.
그는 학업과 관련한 AI 사용에 대해서는 결과물을 신뢰할 수 없는 사례가 빈번하고 중국의 대표적 학술정보 데이터베이스인 CNKI에 없는 허위 논문을 제시하는 경우도 종종 있어 이제는 외국어로 작성된 보고서를 번역하는 용도 위주로 쓰게 됐다고 밝혔다.
그는 "AI에 과도하게 의존하면 학교의 AI 활용 지침을 위반하게 되거나 독립적으로 사고할 수 있는 능력을 잃을까 걱정"이라며 "그래서 의도적으로 학업 보고서에는 활용하지 않으려 한다"고 강조했다.
칭화대 대학원생 추러타오씨는 대학에서 학업과 관련한 AI 활용 지침을 안내받았지만, AI를 활용한 콘텐츠를 어느 수준까지 허용하는지 등 구체적인 제한은 없는 문제점이 있다고 지적했다.
추씨는 일상생활의 가벼운 목적으로는 AI 모델인 딥시크를 사용하지만, 정보를 검색할 때는 바이두 등 전통적인 검색엔진을 사용한다고 말했다.
추씨는 "AI는 종종 구체적인 출처를 제공하지 않거나 맥락이 충분하지 않은 답변을 제시해 신뢰성에 의문을 갖게 한다"며 언론보도나 CNKI 등을 활용해 정보를 검증한다고 설명했다.
이어 "AI가 생성한 콘텐츠가 학술적 부정행위 등을 유도할 수 있다는 점이 우려된다"며 학술 목적의 AI 활용 지침은 더욱 엄격해지는 게 바람직하다는 견해를 밝혔다.
[email protected]
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, ai 학습 및 활용 금지>
김준억