(도쿄=연합뉴스) 경수현 특파원 = 일본 정부가 생성형 인공지능(AI)의 신뢰성을 평가할 시스템을 개발할 방침이라고 요미우리신문이 15일 보도했다.
내년 봄 총무성 산하 국립연구개발법인 정보통신연구기구(NICT)가 개발에 착수해 2026연도(2026년 4월∼2027년 3월) 중 시제품을 내놓을 계획이다.
복수의 AI가 평가 대상 AI를 상대로 다양한 질문을 해 그 내용을 확인하는 방식의 시스템이다.
총무성은 평가 대상 AI의 답변을 점검하는 기준으로 차별적 표현, 범죄성, 오정보, 일본 문화와 상충 등을 검토하고 있다.
평가 기준은 2023년 주요7개국(G7) 정상회의를 계기로 합의된 '히로시마 AI 프로세스'를 토대로 법학자나 사회학자 등이 참가하는 회의에서 구체적인 내용을 논의할 방침이다.
이에 따라 총무성은 일본 기준에 맞춰 신뢰성을 평가해 '신뢰할 수 있는 AI'를 행정기관이나 기업이 우선 사용하도록 할 필요가 있다고 판단했다.
총무성은 평가 시스템이 개발되면 AI의 안정성 확보를 위해 지난해 정부 산하 기관으로 설립된 'AI세이프티 인스티튜트'(AISI)에 이를 제공하거나 일본 기업이 개발한 AI에서 문제점이 발견될 경우 NICT가 생성한 보완용 데이터를 제공하는 등 활용 방안도 검토할 계획이다.
[email protected]
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, ai 학습 및 활용 금지>
경수현