다리오 아모데이(사진) 앤트로픽 최고경영자(CEO)는 10일(현지시간) 블로그에 올린 글에서 “일정 규모 이상의 프런티어 AI 모델은 출시 전 제3자 안전평가를 받아야 한다”고 밝혔다. 사이버 공격, 생물무기 제조, 자율적 행동, 위험한 연구개발 자동화 등 중대 위험이 확인될 경우 정부가 모델 배포를 막거나 되돌릴 수 있어야 한다는 취지다. 그는 “투명성을 넘어 더 진지하고 구속력 있는 AI 규제로 갈 때”라며 “프런티어 AI 모델도 항공기처럼 기술 테스트와 감사를 거쳐야 한다”고 밝혔다.
이번 제안은 앤트로픽이 최근 미토스급 모델을 공개한 직후 나왔다. 미토스는 앤트로픽이 개발한 차세대 AI 모델로, 사이버 보안 분야에서 악용 가능성이 우려될 만큼 높은 성능을 갖췄다. 앤트로픽은 미토스급 성능의 모델을 대중에 공개하면서 사이버 보안 능력이 포함된 버전은 검증된 기관에만 제공하기로 했다. 운영체제(OS)와 웹브라우저의 고위험 취약점을 찾아낼 정도로 강력해진 기능을 일반에 풀기는 어렵다고 본 것이다. 아모데이는 “미토스급 모델이 제기하는 사이버 위험은 우리가 직면해야 할 마지막 위험이 아니다”라며 “생물학적 위험과 AI 자율성 위험도 뒤따를 수 있다”고 했다.
아모데이는 발전하는 AI기술이 민주주의 국가들에 의해 통제되어야한다는 점도 강조했다. 그는 “강력한 AI가 독재적 억압을 가능하게 할 수 있다”고 말했다.
권유진([email protected])