클로드 로고. EPA=연합뉴스
앤트로픽은 17일(현지시간) 공개한 보고서에서 클로드가 자사 AI R&D 업무 중 26%를 ‘주도’하는 수준에 도달했다고 밝혔다. 연초까지만 해도 클로드가 주도하는 R&D 업무는 없었다는 게 회사 측 설명이다.
앤트로픽은 AI가 자사 연구개발 업무를 얼마나 자율적으로 수행하는지를 측정하기 위해 에포크 AI가 개발한 ‘자동화 수준’(Automation Level·AL) 척도를 활용했다.
가장 높은 AL5는 AI가 사람의 개입 없이 완전히 자율적으로 업무를 수행하는 단계다. 그 아래인 AL4는 사람이 감독하는 상황에서 AI가 상위 수준의 지시만 받아 대부분의 업무를 처음부터 끝까지 수행하는 수준을 뜻한다.
앤트로픽이 밝힌 ‘26% 주도’는 전체 AI R&D 업무 가운데 26%가 이 AL4 수준에 해당한다는 의미다.
사람과 AI가 공동으로 업무를 수행하는 AL3 ‘협업’ 단계까지 포함하면 AI가 관여하는 R&D 업무 비중은 90%를 넘어선 것으로 나타났다.
앤트로픽은 이번 조사가 단순히 AI를 연구 도구로 활용하는 수준을 넘어, AI가 자신의 후속 모델 개발 과정에 어느 정도 직접 참여하고 있는지를 측정하기 위한 것이라고 설명했다.
특히 AI가 인간의 개입을 점차 줄이면서 차세대 AI를 개발하는 이른바 ‘재귀적 자기개선’ 단계에 얼마나 접근했는지를 파악하는 데 초점을 맞췄다.
앤트로픽은 최첨단 AI 연구소들이 향후 더 강력한 AI 모델을 개발하기 위해 기존 AI를 연구 과정에 점점 더 적극적으로 투입하고 있다고 설명했다.
AI의 개발 속도가 빨라지는 만큼 안전성 검증과 외부 감시도 강화하겠다는 방침이다.
앤트로픽은 여러 외부 기관의 평가자를 사내에 상주시켜 자사 직원과 비슷한 수준으로 내부 프로세스와 시스템, 데이터에 접근할 수 있도록 하겠다는 계획도 재확인했다.
회사 측은 “AI 시스템은 기하급수적으로 강해지고 있으며 스스로를 구축하는 과정의 상당 부분을 자동화하기 시작했다”며 “최첨단 AI 개발 속도를 늦춰야 한다는 논의가 전 세계적으로 이어지는 상황에서 대중에게 더 많은 정보가 필요하다”고 밝혔다.
앤트로픽은 또 자체 측정 결과 연구 유형에 따라 전체 컴퓨팅 자원의 6~12%를 안전성 모니터링에 투입하고 있다고 설명했다.
AI가 단순한 보조 도구를 넘어 다음 세대 AI를 만드는 핵심 연구 주체로까지 역할을 넓히고 있다는 점에서, 향후 AI 개발 속도와 안전성 통제를 둘러싼 논의도 한층 가열될 것으로 보인다.
정재홍([email protected])