[김병필의 인공지능 개척시대] AI가 AI 개발하는 시대
김병필 KAIST 기술경영학부 교수
지난 10년의 변화를 한 단어로 요약한다면 ‘창발성’이라고 할 수 있다. 창발성이란 개발자도 예상치 못한 새로운 능력이 나타나는 현상을 뜻한다. AI의 규모를 키우고 더 많은 데이터로 학습시켰더니 일어난 일이다. 10년 전만 해도 오늘날과 같은 고성능 AI의 등장을 예견한 사람은 많지 않았다.
인간 앞서는 초지능 가능하지만
AI 무한 발전, 과한 낙관일 수도
발전의 끝 정하는 건 인간의 몫
AI 무한 발전, 과한 낙관일 수도
발전의 끝 정하는 건 인간의 몫
김지윤 기자
AI는 이미 AI 개발 도구로 활용되고 있다. 개발자를 도와 코딩을 하고 오류를 수정한다. 앞으로는 AI가 새로운 개선 아이디어를 제안하고, 실험을 설계·수행·평가하는 작업까지 맡게 될 가능성이 크다. 다만, AI가 어느 범위까지 자율성을 갖게 될 것인지는 논쟁적이다. 핵심 개발 아이디어를 내는 것은 여전히 인간 연구자의 몫이기 때문이다. 그러나 AI가 AI 연구개발 사이클의 상당 부분을 자율적으로 수행하는 단계에 이른다면, 개선된 AI가 더 나은 AI를 만드는 재귀적 자기 개선 시나리오가 현실화될 수 있다.
이 경우 AI의 발전 속도를 인간이 따라잡기 어려워질 수 있다. 인간의 몸에도 스스로를 끝없이 복제하며 주변 조직을 침범하는 세포가 있다. 우리는 이를 ‘암’이라 부른다. 암이 위험한 이유는 몸 전체의 질서를 따르지 않고 자기 증식만을 계속하기 때문이다. AI도 인간 사회의 목적과 통제를 벗어나 자기 개선과 확장이 이루어진다면, 인류 사회 안에서 암처럼 작동할 수 있다.
하지만, 이러한 우려가 과장되었다는 비판도 적지 않다. AI의 성능 개선이 무한정 이어질 것이라고 기대할 근거가 부족하기 때문이다. 어느 기술이든 수확체감의 법칙이 작용한다. 처음에는 성능이 기하급수적으로 발전하는 것처럼 보이지만, 점차 성장 속도가 느려지고 포화상태에 이르게 된다. 학습 데이터, 전력 공급, 반도체 칩의 한계와 같은 중요한 병목도 많다. 현재의 AI 기술 발전이 영원히 지속되리라 믿는 것 역시 지나친 낙관일 수 있다.
그래서 AI 자기 개선이 실제로 지능 폭발로 이어질지는 아직 알 수 없다. 그러나 가능성이 낮다고 해서 위험이 작은 것은 아니다. 위험이 현실화된 뒤에는 대응이 불가능할 수 있다. 따라서 AI 자기 개선에 따른 위험이 얼마나 큰지 미리 확인하고 관리해야 한다. 우리나라도 이러한 문제의식을 법 제도에 반영하기 시작했다. 인공지능기본법은 최첨단의 대규모 인공지능에 대해 자기 개선 위험성까지 평가할 것을 요구한다. 구체적인 평가 방법과 집행 경험은 축적되어야 하지만 의미 있는 진전이다.
우리는 모두 AI가 과연 어디까지 발전할지, 그 끝은 어디일지 궁금해한다. 흥미로운 점은 그 답이 인간의 능력으로 정해지지 않을 수 있다는 것이다. 앞으로 더욱 중요한 질문은 AI가 스스로를 개선하는 능력을 갖추게 될 것인지 여부다. AI의 미래를 이해하려면 AI의 재귀적 자기 개선 가능성에 주목해야 한다.
김병필 KAIST 기술경영학부 교수