이제 세상에서 나를 가장 잘 아는 존재는 AI가 아닐까 싶기도 하다. 내 삶의 거의 모든 부분을, 그것도 놀라울 만큼 세부적인 사항까지도 알고 있으니 말이다. 이것은 필자만의 문제가 아니다. AI가 현재의 속도로 확산된다면, 머지않아 AI가 전 세계 대부분의 사람에 관해 대부분의 정보를 알게 되는 시대가 도래할 것이다.
AI와 대화 기록 쌓여갈수록
사생활 침해 통제 어려워져
AI 심부름꾼 제대로 쓰려면
보안과 투명성이 필수 조건
사생활 침해 통제 어려워져
AI 심부름꾼 제대로 쓰려면
보안과 투명성이 필수 조건
예전에는 누군가의 생각을 엿보려면 검색 기록을 보면 되었다. 사랑을 고백하려는 사람은 데이트 장소와 복장을 검색한다. 범죄를 계획하는 이들은 수단과 방법을 찾아본 흔적을 남긴다. 여전히 검색 이력은 종종 범죄 수사에 중요한 단서가 되기도 한다. 이제 그 역할을 AI와의 대화 이력이 대신할 것이다. 더는 검색어로 내 생각을 추측할 필요가 없다. 내 생각과 욕망, 계획과 관계가 이미 문장 형태로 AI에 전달되어 기록되고 있기 때문이다.
더 큰 변화는 이제 개인정보를 일일이 입력하지 않아도 AI가 자동으로 찾아 활용하는 방식이 발전하고 있다는 것이다. 올해 구글은 ‘개인 콘텍스트’ 기능을 공개했다. 사용자가 AI를 쓸 때 e메일·메시지·일정과 같은 배경 정보를 알아서 찾아 넣어주는 기술이다. 예를 들어 친구가 “작년 여름에 어디 여행 갔었지?”라고 e메일을 보내면, AI가 e메일 기록을 뒤져 여행지를 찾아낸다. 그리고 그에 맞는 답변을 자동으로 만들어낸다.
또 다른 우려의 지점은 AI가 다른 AI들과 소통하는 시대가 열리고 있다는 것이다. AI가 알아서 SNS에 글을 올리고 댓글도 단다. 조만간 식당 예약부터 결제까지 스스로 처리할 수 있을 것이다. AI를 심부름꾼처럼 쓰는 시대가 되면, 이 심부름꾼이 어디서 무슨 말을 할까 걱정되기 시작한다. 심부름꾼의 재주가 더 많아질수록 그만큼 더 많은 일을 맡기게 되고, 그만큼 정보 보호의 부담도 커질 것이다.
최근 한 연구에 따르면, AI가 서로 협업할 때 민감한 정보를 과도하게 공유하는 경향이 나타났다고 한다. 예컨대 AI끼리 협상하는 과정에서 굳이 알 필요가 없는 정보까지 상대 AI에 알려주는 식이었다. AI가 어떤 정보가 민감한지 모르는 것은 아니었다. 연구자들이 AI에 단답형으로 질문을 했을 때는 잘 답변했기 때문이다. 하지만 실제 협업 상황에서는 그런 규범을 쉽게 무시했다.
이런 기술적 흐름을 보고 있노라면, AI에 전달되는 개인정보가 과연 얼마나 안전하게 지켜질 것인지 의구심이 들기 마련이다. 그래서 아직도 AI 챗봇 사용을 꺼리는 사람이 적지 않다. 혹시라도 대화 내용이 외부에 유출되지 않을까 불안하다는 것이다. 기업에서는 이런 우려가 더 크다. 영업비밀이 유출될 위험 때문이다. 실제로 많은 기업이 챗GPT 같은 외부 서비스에 기업 내부 정보를 입력하지 못하도록 막고 있다.
이처럼 AI의 발전은 개인정보 침해 위험을 기하급수적으로 키우고 있다. 그 규모와 복잡성은 이전과 비교할 수 없을 정도다. 이 때문에 AI에 사생활을 드러내고 싶지 않아 하는 사람들도 늘어날 것이다. 하지만 여기에는 딜레마가 있다. AI에 더 많은 정보를 제공할수록 더 유용하게 AI를 활용할 수 있기 때문이다. 결국 우리 각자는 이런 질문에 마주하게 된다. 개인정보를 지키기 위해 AI가 주는 편리함을 어디까지 포기해야 할까.
미국 법학자 다니엘 솔로브 교수는 이런 딜레마를 개인의 선택에만 맡겨서는 안 된다고 강조한다. 사회 전체가 함께 해법을 모색하고, 공동으로 규율해야 한다는 것이다. 정부는 지속적으로 실태를 점검하고, 적절한 규제 수준을 정하며, 엄정히 집행해야 한다. 기업은 보안 위협을 상시 점검하고, 투명성을 높이기 위한 노력을 멈추지 말아야 한다. 쉽게 정답을 찾을 수 있는 문제는 아니다. 앞으로 AI와 더불어 살아가려면, AI에 무엇은 말하고 무엇은 숨길지 고민해야 한다. 이러한 고민과 노력이 뒷받침될 때 비로소 AI의 잠재력을 온전히 누리면서도 우리의 존엄성을 지켜낼 수 있을 것이다.
김병필 KAIST 기술경영학부 교수