STA테스트컨설팅, AI 디지털의료제품 레드팀 플랫폼 개발 착수

식품의약품안전처 산하 식품의약품안전평가원이 공모한 '2025년도 제1차 식품의약품안전처 출연 연구개발사업'의 핵심 과제인 'AI 기반 디지털의료제품 안전성·신뢰성 확보 기술 개발 연구' 과제에서 생성형 AI 디지털의료제품을 대상으로 한 레드팀 테스팅 체계 구축을 위한 연구가 본격 가동에 들어갔다.

3과제와 4과제가 상호 연계하여 진행하는 레드팀 테스팅 체계 구축 연구는 지난 6월 5일 개최된 킥오프 회의를 통해 본격적인 연구에 착수했다. 한국전자통신연구원(ETRI)이 주관하는 3과제에서는 레드팀 테스팅 관련 프로세스 및 체계 개발을 담당하며, (주)STA테스팅컨설팅이 주관하는 4과제에서는 이러한 체계를 실제 현장에 적용할 수 있는 레드팀 플랫폼 개발을 맡는다.

레드팀 테스팅은 첨단 AI 기반 시스템 검증에 널리 활용되는 검증 방법론으로, AI 시스템의 취약점과 잠재적 위험요소를 사전에 발견하고 대응방안을 마련하는 데 핵심적인 역할을 한다. 특히 의료 분야에서 활용되는 AI 시스템은 환자의 생명과 직결되는 만큼 철저한 안전성 검증이 필수적이다.

(주)STA테스팅컨설팅 권원일 대표는 "개발될 플랫폼을 통해 사용자와 테스터가 첨단 AI 디지털의료제품에 대한 테스팅을 체계적으로 수행할 수 있게 될 것"이라며 "플랫폼이 업계 안전성과 신뢰성 관련 정보 전파에도 중요한 역할을 할 것"이라고 연구 목표를 밝혔다.

4과제에는 한국화학융합시험연구원(KTR)이 참여기관으로 함께해 연구 역량을 강화한다. 이번 연구개발 사업은 급속히 발전하는 AI 기술이 의료 현장에 안전하게 도입될 수 있는 토대를 마련하는 중요한 전환점이 될 것으로 기대된다.

국내 디지털헬스케어 시장이 빠르게 성장하는 가운데, 이번 레드팀 플랫폼 개발 사업은 AI 의료기기의 품질 향상과 환자 안전 보장에 기여할 것으로 전망된다.