최재운 지음
북트리거
인공지능(AI)은 이제 화두가 아니다. 현실이다. 전 세계가 AI 경쟁에 뛰어든 지 한참이다. 최근 AI는 가상의 앱과 웹을 벗어나 피지컬 AI를 통해 실체의 영역으로 들어오고 있다. 피지컬 AI에 유난히 눈독을 들이는 집단이 있다. 바로 군이다.
전쟁터에서 AI의 미덕은 속도다. 인간은 의사를 결정하는 우다(OODA) 루프가 빨라야 시간 단위다. AI는 마이크로초(1초의 100만분의 1) 단위다. AI는 단순히 몇 수 앞선 게 아니라 적의 의사 결정을 무력화할 수 있다. 또 전쟁에서 결정적 순간을 없애고, 불확실성을 제거하며, 감정을 배제하면서도, 책임을 분산시킨다.
반면 AI의 전쟁은 인간에게 숙제를 남긴다. 사실이 아닌데도 사실처럼 꾸미는 ‘환각’, 출력의 근거를 당최 알 수 없는 ‘블랙박스’, AI가 목표를 달성하려고 그릇된 방향으로 나가는 ‘정렬오류’ 등 기술적 문제를 풀어야 한다. 무엇보다 AI에게 인간의 생살여탈권을 줄 수 있는지에 대해 답이 분명하게 내려져야 한다.
강대국 간 AI 군비경쟁은 현재 진행형이다. 그러나 전쟁을 벌이면서도 멈출 수 있는 건 인간의 몫이다. 미래는 AI가 아니라 인간이 정한다. AI의 오남용을 막으려면 군에게 책임을 더 요구해야 한다고 지은이는 강조한다.
이철재([email protected])