딥시크 창업자 량원펑, 자연어처리 AI 국제학회서 최우수 논문상
딥시크의 '저비용 고효율' 이뤄낸 핵심기술 주목
(서울=연합뉴스) 권숙희 기자 = 중국의 인공지능(AI) 스타트업 딥시크의 창업자 량원펑이 국제적으로 권위있는 AI 관련 자연어처리(NLP) 학회에서 최우수 논문상을 받았다.
1일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 량원펑이 공동 저자로 참여한 논문이 오스트리아 빈에서 열린 NLP 학회인 전산언어학회(ACL, Association for Computational Linguistics)에서 최우수 논문상을 받았다.
수상한 논문은 딥시크가 전 세계를 깜짝 놀라게 하며 이뤄낸 '저비용 고효율'의 핵심 기술인 '네이티브 희소 어텐션'(NSA) 메커니즘을 다뤘다. 어텐션 메커니즘이란 AI 언어 모델이 문장을 이해하는 데 필요한 기술로, 긴 문맥을 처리할 때 속도가 급격히 느려지는 한계를 극복하는 것이 이 분야의 과제 중 하나였다.
량원펑이 저자 15명 중 한 명으로 이름을 올린 이 논문의 제목은 '네이티브 희소 어텐션: 하드웨어에 최적화되고 자체적인 학습이 가능한 희소 어텐션'(Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention)이다.
딥시크 개발자 등이 지난 2월 논문저장 사이트인 'arXiv'를 통해 논문을 공개하면서 제시한 'NSA' 개념은 당시부터 주목받았다.
딥시크는 이 논문에서 "장문 모델링은 차세대 언어모델에서 매우 중요하지만, '표준 어텐션' 메커니즘의 높은 연산 비용은 상당한 도전이 된다"며 "'희소 어텐션'은 모델의 역량은 유지하면서도 효율성을 개선할 수 있다"고 밝혔다.
한편, 세계 3대 NLP 학회로 꼽히는 ACL에서 올해 제1 저자 기준 중국(51.0%)의 논문이 절반 이상을 차지하며 1위를 기록했다.
미국(14.0%)과 한국(5.2%)이 2위와 3위로 뒤를 이었다.