‘KCC 설명가능 인공지능(XAI) 워크숍 2026’ 행사 전경.
행사는 과학기술정보통신부 ‘사람중심 인공지능 핵심원천기술개발사업’을 수행 중인 4개 XAI 세부 과제 참여기관이 연구 성과를 공유하고 협력 방향을 논의하기 위해 마련됐다.
올해 1월 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’ 시행 이후 열린 이번 행사는 대규모 언어모델(LLM) 등 생성형 인공지능(AI)의 투명성과 책임성 확보 방안도 주요 논의 주제로 다뤄졌다.
3세부 총괄책임자인 구명완 서강대 컴퓨터공학과 교수는 개회사에서 “블랙박스 형태의 거대 인공지능을 해석하고 신뢰성을 부여하는 작업은 단일 연구실이나 특정 세부 과제 단위의 독립적인 연구만으로는 도달할 수 없는 도전”이라고 포문을 열었다.
워크숍에서는 기존 XAI 알고리즘의 한계를 보완한 알고리즘·대형언어모델 해석성 제공 기법·멀티모달 인공지능 설명 기법 등 최신 연구논문 45편이 발표됐다.
초청 강연도 진행됐다. 조원희 법무법인 디엘지 변호사는 국내외 리걸테크 현황과 인공지능을 활용한 법학적성시험(LEET) 적용 사례를 소개했다. 법률 분야에서 AI 투명성을 확보하기 위한 기술 연구진과 법률 전문가의 협력 과제도 제시했다.
서강대가 수행하는 제3세부과제는 음성 대화와 언어 이해, 음성 향상 전처리, 음향 특징 융합, 3D 복원과 시각화, 법률 지식 데이터베이스(DB) 등을 연결한 학제 간 융합 연구로 추진되고 있다.
제3세부과제에는 구명완 서강대 컴퓨터공학과 교수, 박형민 전자공학과 교수, 김지환 컴퓨터공학과 교수, 박운상 컴퓨터공학과 교수, 홍대식 법학전문대학원 교수 등이 참여하고 있다.
서강대는 공동연구기관 및 산업계와의 협력도 확대하고 있다. ㈜하이·이대서울병원과는 마비말장애 진단 보조 기술 검증을 추진하고 있으며, 법무법인 디엘지와는 위협 상황 분류와 LEET 적용 등 산학 연계 실증 서비스를 진행하고 있다.
최재식 KAIST 설명가능 인공지능연구센터장은 “AI 기술이 실제 사회 현장에서 책임 있게 활용되기 위해서는 서로 다른 전문성을 가진 세부 과제 연구자 간의 긴밀한 교류가 필수적”이라며 “4개 세부 과제 간의 아이디어 공유로 다져진 협력 생태계가 신뢰 가능한 인공지능 시대를 여는 초석이 될 것”이라고 말했다.
한편 이번 행사는 과기정통부와 정보통신기획평가원(IITP)의 지원으로 열렸다.