“AI 통제 상실·사회 위협” 연구원들, 병가·사직 잇달아

AI. AFP=연합뉴스

인공지능(AI)의 안전성에 대한 우려가 커진 가운데 AI 유관 기관 직원들이 AI가 사회를 심각하게 위협하는 일을 하는 건 아닌지 정신적 스트레스에 시달리고 있는 것으로 나타났다.

22일(현지시간) 영국 일간 파이낸셜타임스(FT) 보도에 따르면 프런티어 AI 모델을 독립적으로 점검하는 기관인 영국 AI안전연구소(AISI)의 여러 직원들이 정신적 스트레스로 병가를 내고 상담받고 있다.

이들은 출시를 앞둔 AI 모델들에 대한 빡빡한 테스트 일정은 물론이고, AI 신기술의 급속 확산과 기능 발전에 대한 우려로 사기 저하와 ‘번아웃’을 겪고 있다고 소식통 4명이 전했다.

앤트로픽과 오픈AI, 구글 딥마인드 등 선두 기업 직원들도 비슷한 우려를 호고하고 있다.

딥마인드 한 직원은 AI를 더 안전하게 만드는 일이 “불가능한 임무처럼 느껴진다”고 털어놓았다.

이 직원은 지난 4월 미국 국방부의 기밀 군사 업무에 AI 모델이 사용되는 문제를 놓고 구글 임직원이 반발했던 사태를 언급하면서 “AI 시스템 업무는 전반적으로 그 기술이 어떻게 사용될지 모른다는 점에서 (정신건강) 위험이 있다”고 말했다.

그는 “많은 사람이 혼란스러워하며 일을 그만두거나 정신건강 문제로 병가를 내고 있다”며 “통제력을 잃고 있다는 느낌도 일부 있고, 진짜 해로운 걸 만들고 있다는 느낌도 있다”고 말했다.

업계 관계자들에 따르면 AI 연구원들 사이에선 기업 내부나 정치적으로 안전장치가 충분하지 않은데도 에너지망이나 전쟁 지역과 같은 위험한 분야에 AI 소프트웨어가 적용되는 데 대한 우려와 걱정이 크다.

FT는 오픈AI와 앤트로픽, 딥마인드 등 미국 3대 선두기업에서 지난 2년간 안전성에 우려를 표시하며 퇴사한 고위급 연구원이 12명을 넘는다고 보도했다.

이달 초 앤트로픽의 AI 개발자인 제이컵 콕슨이 사직하면서 앤트로픽과 오픈AI가 “우리의 목숨을 걸고 도박하고 있다”고 경고했다.

앤트로픽 AI 안전성 연구원이던 므리난크 샤르마는 올해 2월 시를 공부하겠다며 사직하면서 직원들에게 보낸 편지에 “세계가 위험하다. 우리의 가치에 따라 행동하는 게 얼마나 어려운지 거듭 목격했다”고 말했다.




정시내([email protected])