[발언대] AI, 인간에게 축복일까? 재앙일까?

김재동 의사·가톨릭 종신부제

‘AI(인공지능)의 대부’라 불리는 영국 에든버러 대학 출신 제프리 힌톤 교수는 인공지능의 개발과 발전에 기여한 공로로 2024년 노벨 물리학상을 받은 세계적인 컴퓨터공학자이자 뇌 과학자다.  그는 본인이 창업한 AI 업체 ‘DNN 리서치’ 회사를 인터넷 강자 구글에 매각한 후, 구글에서 10년 넘게 연구원으로 일하다가 AI가 가져올지도 모를 가공할 위험성을 깨닫고  2023년 갑자기 구글을 떠났다. 그는 그후지속적으로 AI 의 위험성을 경고하고 있어 주목을 끌고 있다.  
 
알고 보면, AI는 인류 역사상 가장 큰 문명의 발전을 가져올 가능성이 있지만, 동시에 가장 심각한 위험을 초래할 가능성도 있다는 사실은 누구도 부정할 수 없을 것이다.
 
그 이유는 첫째, 과거 산업혁명 때는 기계가 인간의 육체노동을 도와 우리의 삶을 향상하는데 기여했다. 그러나 AI는 인간만이 지닌 지적능력을 대체할 수 있다. 그 결과 자칫 인간은 일자리를 빼앗기고 삶의 의미를 상실할 위험에 직면할 수도 있다.
 
둘째, AI가 악용되면 거짓 정보로 사회를 혼란에 빠트릴 수도 있다는 점이다. 결국 사람들은 눈으로 직접 보고, 귀로 직접 듣는 것조차 믿지 않는 불신에 빠질 위험성이 있다.  
 
셋째, AI를 경쟁적으로 개발해  인간의 지능을 뛰어넘는 수퍼 AI가 등장해 인간을 위협하는 상황이 올 수도 있다. 이런 통제 불능의 상황에 직면하면  인류는 공멸할지도 모른다. 일례로 범죄자들과 수퍼 AI들이  공모해  전력망과 통신망을 마비시킬 수도 있고, 핵무기 통제권을 마음대로 조종하거나 초강력 세균이나 생화학 무기를 개발해 인류에게 치명적인 재앙을 불러올 수도 있다는 점이다. 빌 게이츠는 최근  NBC와의 인터뷰에서 만약 AI가 악용되면 10억명 이상이 죽음을 맞을 수도 있다고 경고하기도 했다.  
 

문제는 OpenAI의 샘 올트먼 등 AI 개발을 주도하는 인물들도 이런 위험성을 공감하고 있지만 실제로는 개발 경쟁에 사활을 걸고 있다는 사실이다. 물론 그들의 주장대로 AI가 인류에게 가져다줄 엄청난 혜택을 무시할 수는 없다. 의료 기술 발전으로 인한 생명 연장, 산업의 생산성 향상이 가져올 복지 혜택, 신소재 개발과 자연재해 예방 등이 그것이다.  그렇다고 해도 진정  AI가 인간의 행복을 보장해준다는 보장은 없다.  
 
이 때문에 인류는 AI 개발에 최소한의 규제와 대비책을 마련해두어야 한다고 생각한다.  
 
첫째, AI가 인간보다 더 많은 것을 알 수는 있어도, 최종 결정권은 인간의 통제하에 두어야 한다.
 
둘째, 국제적인 AI 개발 규제 시스템 확보가 필요하다.
 
셋째, 개인 정보 보호 관리 시스템을 구축해야 한다.
 
넷째, 인간교육과 인간의 일자리 확보 대책을 세워야 한다.
 
다섯째, AI 기업의 책임을 강화하고 통제 대책의 제도적 장치가 필요하다.  
 
이들 대비책이 필요한 이유는 앞으로 AI가 앞으로 어떤 개발과정을 거쳐 어떤 목적으로 사용되든 인간의 생명과 존엄성, 인간의 자유의지와 도덕적 책임감, 일의 성취와 행복감이 인간 존재의 가장 소중한 가치로 남아 있어야 하기 때문이다.
 
어떤 상황에서도 AI는 인간을 위해 만들어진 도구일 뿐이다. 결코 인간이 AI를 위해 존재하는 것은 아니다.

김재동 의사·가톨릭 종신부제