[김병필의 인공지능 개척시대] AI 직원과 함께 일할 준비

김병필 KAIST 기술경영학부 교수

사무실의 풍경이 빠르게 바뀌고 있다. 인공지능(AI)이 사업 계획을 세우고, 제품 홍보 전략을 짠다. 이제 고객 응대나 장부 작성까지 수행한다. 이처럼 여러 일을 처리해 내는 능력은 작은 조직에 특히 요긴하다. 스타트업이나 소상공인은 늘 일손이 모자라기 때문이다. 영업·홍보·회계·고객 응대까지 AI가 조금씩 나누어 맡고 있다.

보안 이유로 배척만 할 수는 없어
체계 갖춰 수습처럼 일 맡기되
능력 검증되면 자율성 넓혀가야

김지윤 기자

하지만 이 디지털 직원에게는 보안의 빈틈도 크다. 예컨대 지난해 11월 등장한 오픈소스 AI 비서 오픈클로(OpenClaw)는 빠르게 확산되며 큰 주목을 받았다. 미국의 시스코사는 이를 두고 “보안 악몽”이라고 평가했다. 오픈클로는 이용자의 컴퓨터에서 파일을 삭제하고, 악성 프로그램까지 실행할 수 있다. 이런 도구가 사내 전산 시스템과 연결되는 순간 회사의 보안 시스템 전체가 위험해질 수 있다.

그러니 여러 기업이 외부 AI 프로그램의 사내 사용을 제한하는 것도 이해할 만하다. 통제 장치가 충분하지 않은 상태에서 AI가 회사 안에서 자율적으로 활동하도록 내버려 두기는 어렵다. 반대로 그만큼 AI 활용 역량이 자라기 어렵다. 시스코사의 2025년 조사에 따르면, AI 활용 준비도에서 ‘선두 그룹’으로 분류된 한국 기업의 비율은 8%에 그쳤다. 글로벌 평균 13%에 못 미치는 수치다.

경쟁자가 AI를 활용해 생산성 격차를 벌리는 상황에서 막고 있을 수만은 없다. 이 딜레마를 어떻게 풀어야 할까. AI를 수습사원처럼 써보면 어떨까. 수습사원이 처음 회사에 들어오면 모든 일이 낯설다. 감독을 맡은 선배 직원도 무슨 일을 시켜야 할지 고민이 된다. 하지만 작은 일부터 맡겨 보면 곧잘 해내곤 한다. 지금의 AI가 그렇다.

AI가 회사의 보안 시스템에 위협이 되지 않도록 제대로 관리하는 일은 수습사원 관리 규칙을 마련하는 일과 무척 비슷하다. 첫째, 직원이 출근할 때 사원증을 찍고 사무실로 들어오듯, AI에게도 명확한 신원을 부여해야 한다. 승차 공유업체 우버는 사내 AI에 검증할 수 있는 신원을 부여하고, 이를 통해 AI가 한 일을 추적하는 체계를 만들었다. AI에게 일종의 디지털 사원증을 발급한 셈이다.

둘째, 수습사원에게 모든 회사 정보를 한꺼번에 열어 주지 않듯, AI를 격리 공간 내에 두고, 자료 접근 권한을 제한해야 한다. AI가 일하는 환경은 회사의 핵심 전산망과 분리하고, 필요한 도구만 실행할 수 있도록 해야 한다. AI에 주어진 권한은 이를 감독하는 담당 직원의 권한을 넘지 못하게 해야 한다.

셋째, 수습 업무에는 ‘인간 사수의 결재’라는 제어장치가 있어야 한다. 수습사원이 구매 발주서를 작성할 수는 있지만, 그대로 주문을 넣지는 않는다. 실제 발주는 담당자의 확인을 거쳐야 한다. AI도 마찬가지다. 중요한 업무에는 인간 감독이 절차 속에 포함되어야 한다.

마지막으로, 수습사원이 일을 하며 평가를 쌓고 더 중요한 일을 맡게 되듯, AI도 검증된 만큼씩 자율성을 넓혀가야 한다. 지금의 AI는 업무 경험을 스스로 축적하는 기능을 갖추기 시작했다. 최근 공개된 헤르메스(Hermes) 에이전트는 성공한 작업 과정을 문서로 남긴다. 다음에 비슷한 일을 맡으면 그 기록을 참고해 더 능숙하게 처리한다.

수습사원이 일을 잘하면 정식 직원이 될 수 있는 것처럼, AI에 일을 맡기고 결과를 확인하는 경험이 쌓이면 점차 더 중요한 일도 맡길 수 있다. AI 역량이 커진다고 도입 속도가 저절로 빨라지는 것은 아니다. 유출, 오작동, 감사 곤란의 위험도 함께 커지기 때문이다. 따라서 AI 성능이 더 좋아진 뒤 본격적으로 도입하겠다는 생각은 착각일 수 있다. 뒤늦게 시작할수록 관리 경험은 부족하고, 경쟁자와의 격차는 더 벌어지기 마련이다.

중요한 것은 지금부터 AI와 함께 일할 준비를 제대로 시작하는 일이다. AI 신원과 인증, 격리된 작업 공간, 행동 기록과 인간 감독 시스템을 갖추어야 한다. AI를 수습사원 삼아 일을 시켜봐야 점차 정식 직원에 가까운, 책임 있는 역할을 맡길 수 있다. 디지털 직원과 함께 일하는 시대는 이미 도래했다. 어떤 규칙과 절차에 따라 무슨 일을 맡길지 정해야 할 때다. 늦지 않게 준비를 시작하자.

김병필 KAIST 기술경영학부 교수