서울대 전력난에 비명…“전기 없어 수억 장비 못쓴다” 무슨 일

서울대학교 공과대학 건물. 이태윤 기자

서울대 컴퓨터공학부의 A교수는 지난해 인공지능(AI) 연구를 위해 수억원을 들여 그래픽처리장치(GPU) 서버를 구매했지만 사용하지 못했다. 서버실에 허용된 전력량이 이미 한계치에 달해 추가로 GPU를 가동할 만큼 여유가 없었기 때문이다. 조선해양공학과 B교수 역시 “장비를 사고도 서버실 전력이 부족해 쓰지 못하고 몇 달간 기다리다가 최근에야 겨우 학과 서버실에 장비를 들여놓았다”고 했다.


AI 연구에 필요한 전력량이 대폭 늘면서 대학 연구실 전력난이 갈수록 심해지고 있다. 동시에 GPU 가격도 급격히 오르며 연구 장비 수급에 어려움을 겪는 사례 역시 늘었다. AI 연구 최전선인 서울대 공대에서는 전력·GPU 부족 문제가 겹쳐 연구 인력이 기업이나 해외 대학 등 인프라가 충분한 외부 기관으로 떠나는 일도 벌어지는 등 인재 유출까지 우려해야 할 상황이다.

김영옥 기자

김영옥 기자

서울대 에너지 소비량은 5년째 상승세다. 2021년 5만4788TOE(석유 환산톤)였던 에너지소비량은 지난해 6만7319TOE로 22.9% 늘었고, 같은 기간 전력 사용량은 19만3623MWh에서 24만6686MWh로 27.4% 증가했다. 반면 늘어나는 전력 소비를 감당할 인프라 조성 계획은 지지부진하다. 서울대는 지난 2022년 시흥캠퍼스에 240MW급 데이터센터를 지어 GPU를 통합 관리하는 구상을 내놨다. 데이터센터가 따로 구축되면 캠퍼스 내에서 쓰는 전력량을 줄일 수 있다. 하지만 당초 MOU를 맺었던 카카오가 서울대와 협업 계획을 철회하고 주민 의견을 수렴하는 데 시간이 걸리면서 서울대는 데이터센터 준공 사업의 첫 삽도 아직 뜨지 못했다.

지난 2022년 오세전 전 서울대 총장은 서울대 시흥캠퍼스에 카카오 데이터센터를 설립한다는 내용의 업무협약을 카카오와 체결했다. 사진 서울대

전기와 에너지 소비가 계속 늘어나는 가운데 AI 연구로 전력 수요가 많은 공대 서버실은 이미 가용 전력을 모두 사용 중이다. 서울대 전력연구소의 이규섭 교수는 “서울대에 공급되는 총 전력이 부족하진 않지만 각 건물의 변압기를 통해 공급되는 전력은 정해져 있어 특정 건물 서버실 전력은 부족할 수 있다”며 “변압기와 전력망을 늘리는 작업은 대규모 공사라 한번 지어진 건물의 전력 공급을 늘리는 건 사실상 불가능하다”고 설명했다.

전력 부족으로 서버가 포화 상태에 이르면서 뒤늦게 서버를 설치하려는 연구실은 진입조차 어려운 실정이다. 서울공대 C교수는 “누군가 서버를 빼야 다른 사람이 사용할 수 있는데 빈자리가 1년 이상 나지 않고 있다”며 “신임 교수는 기존 교수가 퇴임할 때까지 기다려야 하는 실정”이라고 했다. 서버 공간을 두고 교수들 사이 신경전도 있다고 한다. 반도체 분야 전문가인 공대 D교수는 “신임 교수들 사이에서 ‘다른 연구실도 쓸 수 있게 전력을 남겨둬야지, 선점하면 우리는 어디다 서버를 두느냐’는 불만이 있다”고 전했다.


서버실에 빈자리가 좀처럼 나지 않자 기약 없는 대기 줄만 길어지고 있다. 공대에 따르면 서버실에 자리가 생길 때마다 선착순 신청을 받는데, 현재 대기 중인 연구실이 20곳 이상이라고 한다.

서울공대에서 연구자에게 상시 제공 중인 GPU 클러스터 서비스 안내문. 사진 서울공대

교내에 새로 서버를 들이기 어려워지자 일부 연구실에선 외부로 눈을 돌리고 있다. 아마존, 마이크로소프트 등 기업이 제공하는 클라우드를 사용하는 것이다. 서울공대 E교수는 “급하게 GPU를 돌려야 하거나 큰 규모의 실험을 해야 할 때 외부 클라우드를 사서 쓰는데, 로컬 서버를 사용할 때보다 금액이 약 10배 높다”며 “가격이 부담돼 외부 서버를 계속 쓸 순 없으니 GPU 사양을 낮추거나 개수를 줄여 전력 공급량에 맞춘다”고 했다.

━

GPU 가격 1년새 5배 뛰어…연구실 이중고

다수의 서울공대 연구실이 전력난과 함께 GPU 수급난까지 이중고를 겪고 있다. GPU 가격이 짧은 기간 급등하자 한정된 연구비로 연구에 필요한 만큼의 장비를 사들일 수 없게 된 것이다. 서울공대 F 교수는 “1년 사이 신형 GPU 가격이 5배 이상 올랐다”며 “GPU가 있어도 전력이 부족해 가동하지 못하는 곳도 있다지만, 애초에 돈이 있어도 GPU를 못 사는 곳도 많다”고 했다. 또한 연구 계획을 올리고 승인받는 속도가 가격 상승 속도를 따라잡지 못하는 점도 어려움을 키우는 원인으로 꼽힌다. F 교수는 “연구비를 충분히 책정해도 심의를 받는 3~4개월 사이에 GPU 가격이 올라 장비 구매 입찰이 유찰되기도 한다”고 했다.

지난 6월 대만 타이베이에서 열린 GTC 타이베이에서 RTX 스파크 GPU를 장착한 AI 노트북 컴퓨터를 설명하는 젠슨 황 엔비디아 최고경영자. 연합뉴스

AI 경쟁에 있어 가장 핵심적인 ‘실탄’인 전력과 GPU 부족이 심화하면서 핵심 연구 인력 유출 우려도 커지고 있다. F교수는 “전력이나 GPU 인프라가 미비한 대학 대신 원하는 연구를 할 수 있는 해외 대학이나 기업에 가고 싶어 하는 연구자가 많다”며 “지난해 알고리즘을 연구하는 한 교수가 이런 이유로 미국 대학으로 향했다. 지금은 OpenAI로 다시 적을 옮긴 상태”라고 전했다. 서울대에 따르면 2021년에서 지난해 5월 사이 공대 교수 12명이 해외 대학으로 이직했다.

학생들도 대학원보다 연구 인프라가 잘 갖춰진 기업을 선호하는 추세라고 한다. F교수는 “대학에서 할 수 있는 연구가 제한적이라는 일종의 패배주의가 학생들 사이 있는 것 같다”며 해외 기업 인턴을 하고 싶어 하는 석·박사생도 다수라고 했다. 다만 서울공대 측은 교수 이직에 대해 “전임·비전임 교수를 합산한 수치”라며 “전임교수 이직은 비전임보다 현저히 적고, 올해도 신임 교수 9명 중 4명이 해외에서 오셨다”고 했다.

학계에선 AI 연구 인프라 확보가 국가 간 기술 경쟁에 필수적인 만큼 연구개발 자원을 확보하기 위한 전략 마련이 시급하단 지적이 나온다. D교수는 “GPU 성능이 좋을수록 연구 결과가 우수하다”며 “연구개발 최전선인 대학에 GPU를 저렴하게 제공하고 전력을 충분히 공급하는 국가 차원의 ‘딜’이 필요하다”고 했다.

데이터센터 등 인프라 구축에 속도를 내야 한다는 목소리도 높다. 개별 건물, 연구실에서 서버를 사서 쓰는 데엔 한계가 있고 대학이나 정부가 GPU를 공동으로 관리하는 것이 바람직한 방향이라는 의견이다. F교수는 “데이터센터 부지 물색이나 관리 인력 확보 등 조율 단계를 신속히 추진해서 하루빨리 연구 인프라를 확충해야 할 것”이라고 했다.

일각에선 전력과 장비 공급 이전에 효율화 방안을 고민해야 한단 주장도 있다. C교수는 “서버실에 특정 연구실만 쓸 수 있는 개인용 GPU를 줄이고 학교가 공동으로 관리하는 GPU를 늘리면, 한정된 전력 내에서 장비를 더 효율적으로 사용할 수 있을 것”이라고 제안했다.




이규림([email protected])