앤트로픽이 ‘클로드’의 작업 승인 절차를 간소화해 AI가 중단 없이 작업을 이어갈 수 있도록 한다. 실행할 때마다 사용자에게 허락을 구하는 대신 자동 검사로 위험성을 판단하는 ‘오토 모드(Auto Mode)’를 대부분의 클로드 앱에 기본 적용한다. 반복되는 승인 요청이 무심코 누르는 클릭으로 굳어지는 문제를 완화하고, AI가 장시간 작업할 수 있게 하려는 조치다.
앤트로픽은 22일(현지시간) 공식 발표문을 업데이트해 다음 주부터 프로·맥스·팀 요금제 이용자가 대부분의 클로드 앱에서 새로 시작하는 세션에 자동 모드를 기본으로 적용한다고 밝혔다.
이는 지난 8월 코딩 도구 ‘클로드 코드’에 기본 도입한 방식을 다른 클로드 앱으로 확장하는 것이다. 기업용 요금제의 경우 기본 적용에 앞서 관리자에게 이메일로 안내할 예정이다.
자동 모드는 도구 실행 요청을 자동으로 점검한다. 안전하다고 판단한 작업은 그대로 진행하고, 위험하다고 본 작업은 차단한다. 차단된 경우 클로드가 다른 방법을 찾거나 사용자에게 승인을 요청할 수 있다. 이용자가 원하면 직접 승인하는 방식으로 바꿀 수도 있다.
앤트로픽은 기존 승인 절차만으로는 실제 위험한 작업을 걸러내는 데 한계가 있다고 설명했다. 회사가 분석한 클로드 코드 이용자의 승인 요청 허용률은 97%였다. 대부분 일상적인 작업에 관한 요청이지만, 하루 수십~수백 차례 확인을 요구하면 사용자가 내용을 검토하지 않은 채 습관적으로 승인할 수 있다는 것이다.
이를 뒷받침하는 실험 결과도 공개했다. 유료 전문 테스터 1053명이 참여한 코딩 실험에서 명백히 위험한 명령을 승인 요청에 포함했을 때, 사람이 해당 요청을 차단한 비율은 13.6%였다. 같은 명령을 자동 모드가 차단한 비율은 89%였다.
사람이 앞서 승인 요청을 50건 이상 처리한 뒤에는 위험 명령 차단율이 약 5%까지 낮아졌다. 반면 자동 모드의 차단율은 세션이 길어져도 달라지지 않았다고 앤트로픽은 밝혔다.
다만 이 수치는 클로드 코드 시험에서 나온 결과다. 이번에 기본 적용되는 일반 앱 전체에서도 같은 성과가 확인됐다는 의미는 아니다. 앤트로픽은 내부 시험과 외부 보안 평가 결과를 제품 전반의 자동 모드 개선에 반영했다고 설명했다.
자동 모드는 되돌리기 어려운 변경이나 파괴적인 명령, 외부로 데이터를 전송하는 작업 등을 검사한다. 회사는 내부 사용 중 보고서를 공개 코드 공유 사이트에 게시하려던 작업과, 요청한 범위를 넘어 클라우드 관리자 권한을 부여하려던 작업 등을 차단한 사례도 소개했다.
이 방식은 승인 절차를 줄여 AI에 작업을 맡길 수 있는 시간을 늘리는 한편, 자동 검사에 위험한 실행을 걸러내도록 한다. 앤트로픽은 자동 모드가 위험을 완전히 없애지는 못한다며 운영 인프라에 중대한 변경을 가하는 작업은 사용자가 직접 검토하라고 권고했다.