유엔 안보리서 "AI 결정, 샌프란 연구소에만 맡겨선 안돼"
"AI, 새 르네상스·산업혁명 될 수도…공통 안전기준 필요"
올트먼 "위험 0.1%도 용납 안돼…통제 증명못한 AI 훈련 말아야"
유엔 안보리서 "AI 결정, 샌프란 연구소에만 맡겨선 안돼"
"AI, 새 르네상스·산업혁명 될 수도…공통 안전기준 필요"
(뉴욕=연합뉴스) 김연숙 특파원 = 샘 올트먼 오픈AI 최고경영자(CEO)는 23일(현지시간) 인공지능(AI)의 급속한 발전에 따른 위험을 경고하며 인간의 통제 가능성을 입증하지 못한 AI 모델은 훈련해서는 안 된다고 강조했다.
올트먼 CEO는 이날 미 뉴욕 유엔본부에서 AI와 국제 안보를 주제로 열린 안전보장이사회(안보리) 회의에서 기업 간 경쟁이 '성급한' 결정을 정당화할 수 없다며 이같이 말했다.
그는 AI 발전 과정에서 피해야 할 두 위험 중 하나로 "AI 발전이 너무 빨라 사람들이 더 이상 무슨 일이 일어나는지 따라갈 수 없게 되는 위험"을 지적하며 기업간 경쟁에서 승리하기 위해 "성급한 결정을 내릴 이유가 없다"고 말했다.
이어 "시스템이 매우 똑똑해지더라도 사람들이 의도한 대로 작동할 수 있다는 강력한 증거가 필요하다"며 "특히 매우 똑똑해졌을 때는 더욱 그렇다"고 덧붙였다.
그는 "사람들이 재앙의 위험을 10%, 1%, 1.2%, 0.1%로 설정하든, 어느 수준도 전혀 용납할 수 없다"며 "인간의 통제 아래 유지할 수 있다는 매우 강력한 근거를 제시할 수 없는 모델은 훈련해서는 안 된다"고 말했다.
그는 "어떤 개인이나 기업, 국가도 가장 강력한 AI 모델을 사용해 자신의 세계관을 다른 모든 사람에게 강요해서는 안 된다"며 AI가 사람들의 삶에 더 많은 권한과 자유를 줘야 한다고 말했다.
특히 AI의 발전 방향을 일부 기술기업이나 연구소가 독점적으로 결정해서는 안 된다고 강조했다.
그는 "AI가 민주적이라면 가장 중요한 결정들이 샌프란시스코의 연구소들에 의해서만 내려져서는 안 된다"며 AI 발전 방향은 민주적 절차를 통해 형성돼야 한다고 촉구했다.
이를 위해 국가들이 증거를 비교하고 규정 준수 여부를 확인할 수 있는 공통 기준과 함께 AI 관련 사고의 신속한 보고 및 분류 체계, 정부·핵심 인프라 운영자·기술 전문가 간의 안전한 소통 채널이 필요하다고 제안했다.
올트먼 CEO는 AI의 잠재력도 강조했다. 그는 AI가 "새로운 르네상스" 또는 "새로운 산업혁명"과 같은 역할을 할 수 있다고 했다.
또 최근 자사 모델이 국제 수학 경시대회 우승 수준을 넘어 고급 수학과 미분 방정식까지 풀고 있다며, 이는 항공기 설계와 기상 예측 등에서 새로운 지식을 발견하고 의료와 교육을 개선하는 데 활용될 수 있다고 설명했다.
[email protected]
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, ai 학습 및 활용 금지>
김연숙