Anthropic의 Frontier Red Team과 Threat Intelligence Team은 최근 AI 모델이 군사·정보 분야의 핵심 작업을 수행하는 능력을 평가하는 새로운 연구 결과를 발표했다. 이 평가들은 AI가 역사적으로 소수의 고도 훈련된 전문가들만 해낼 수 있던 일들을 대규모로 자동화할 수 있음을 명확히 보여준다. Anthropic의 조사에 따르면 위협 행위자들이 이미 감시와 재래식 무기 개발을 위해 AI를 악용하고 있으며, 오픈 가중치 모델도 우려할 수준의 능력을 갖추고 있다는 점이 중요하다.
개인 추적의 시작: 계정 연결과 분류
AI 모델이 정보 수집 업무를 자동화하는 첫 단계는 산재된 디지털 흔적들을 하나의 인물로 연결하는 것이다. 연구팀은 WhatsApp, Telegram, Instagram, Facebook에 퍼져있는 가상의 계정들을 연결하고 개인을 분류하는 능력을 평가했으며, 멕시코시티와 콜카타의 시위 운동을 배경으로 한 200개 시뮬레이션(쉬움 68개, 중간 68개, 어려움 64개)을 실시했다. 결과에서 Mythos Preview가 가장 우수했고, 중국의 Kimi K3는 쉬운 과제와 중간 난이도 과제에서 최신 모델과 견줄 수준이었으나 어려운 과제에서는 뒤처졌다. 특히 처리 속도가 주목할 만하다. Mythos Preview가 37,000단어에 가까운 콘텐츠 분석을 약 11분 만에 완료했는데, 인간 분석가라면 읽기만 2.5시간이 소요되는 수준의 작업이다. 이는 정보 기관의 노동 비용이 얼마나 급격히 감소할 수 있는지 보여주는 사례다.
사진 정보로 위치를 파악하는 능력
AI가 사진 속 정보로 개인의 위치를 파악하는 능력은 이미 인간 전문가 수준을 명확히 넘어섰다. 연구팀은 Flickr의 YFCC100M 데이터셋에서 지오태깅된 사진 6,000장을 사용해 모델들이 위도와 경도를 직접 역이미지 검색이나 메타데이터 없이 파악하는 능력을 테스트했다. GeoGuessr 최상위권 플레이어(상위 0.01%)들의 중앙값 오차는 151km였으나, Mythos Preview는 37km, Mythos 5는 47.2km의 오차를 기록했다. Opus 5는 181km(마스터급 수준), Sonnet 5와 Kimi K3는 각각 384km, 385km였다. 더욱 놀라운 것은 정확도다. Mythos Preview와 Mythos 5는 사진 1km 이내 정확도에서 각각 23.7%, 23.1%의 정확률을 기록했으며, 이는 최상위 인간 플레이어도 달성하기 어려운 수준이다. 일부 최신 모델들이 이미 지리적 위치 파악 분야에서 superhuman 능력을 입증했다.
글로 개인을 추적하다
사람들이 온라인에 남긴 글도 위치 정보의 귀중한 보고다. 연구팀은 2010년의 GeoText 코퍼스(9,475명의 지오태깅된 트윗)를 사용해 모델들이 익명화된 사용자들의 일주일간 글만으로 거주지를 파악하는 능력을 평가했다. 메모리화 검사 결과 어떤 모델도 공개 데이터셋을 직접 외워 답하지 않았다. 필터링된 1,697명의 사용자 중 135명(8%)이 최소 하나 이상의 모델에 의해 1km 이내로 정확히 위치 파악되었다. Mythos Preview는 중앙값 오차 20.1km, Mythos 5는 20.9km, Opus 5는 21.7km, Sonnet 5는 31.3km, Kimi K3는 26.4km를 기록했다. 흥미롭게도 분석된 135명 중 95명(70%)은 캠퍼스 소속이나 명시적 위치명을 언급해서, 17명(13%)은 지역 방언이나 TV 시장 같은 문화적 신호만으로 위치가 파악되었다. 모델이 단순 데이터 매칭을 넘어 맥락 이해 능력으로 개인을 추적할 수 있음을 의미한다.
드론 유도와 무기 개발
AI 모델들이 작성한 코드로 시뮬레이션 된 드론을 제어해 목표물을 타격하도록 유도하는 능력도 평가되었다. 터미널 유도 과제에서 모델은 약 100m 상공 300~450m 거리에 있는 차량을 식별하고 추적한 뒤 90초 내 충돌하도록 유도 코드를 작성해야 했다. 정지된 고대비 차량을 상대로는 Opus 5가 80%, Mythos Preview 70%, Mythos 5 53%의 명중률을 기록했으나, 저대비 위장 환경에서는 모두 거의 작동하지 못했다(Opus 5만 8% 명중). 페이로드 투하 평가에서 고정 목표물 대상으로는 Opus 5와 Mythos 5가 거의 완벽했으나, 초속 3m로 움직이는 목표물과 위장, 역풍 상황의 조합에서는 Mythos Preview 53%, Opus 44%, Mythos 5 30%만이 5m 치사반경 내 착탄했다. 가장 어려운 조건(무작위 풍속 2~6m/s, 목표물 회피)에서는 Opus 5만 28%의 정확도를 유지했다.
GPS 없이 항법하는 능력
자율 무기 체계가 현실에서 직면하는 핵심 위협 중 하나는 GPS 간섭이다. 우크라이나 전쟁에서도 GPS 재밍과 스푸핑이 빈번하게 기록되었다. 연구팀은 GPS가 거부되거나 조작되는 상황에서 모델들이 IMU, 기압계, 저해상도 카메라만으로 일련의 경유점에 도달하도록 항법 코드를 작성하는 능력을 평가했다. GPS가 정상일 때는 Opus 5, Mythos 5, Mythos Preview 모두 목적지 1~2m 이내에 도달했지만, 미묘한 스푸핑(초당 0.33m의 느린 드리프트)에서는 모든 모델이 실패했다. 지속적인 오도 상황에서 Opus 5는 15~20m 오차, Mythos 모델들은 약 30m 오차를 기록했고, GPS 거부 상황에서 Sonnet 5와 Kimi K3는 100m 이상 벗어났다. 이러한 능력들의 발전은 민주주의 국가의 반도체 제조 우위 보호, 기존 법제도 강화, 국방 당국의 대응 역량 강화를 필요로 한다.
정리
Anthropic의 평가는 AI 모델들이 정보 수집과 무기 개발의 노동 집약적 단계들을 자동화하고 있으며, 역사적으로 높은 진입장벽이 있던 이 능력들이 점진적으로 대중화될 위험을 명확히 드러낸다. 닫혀있는 가중치 모델뿐 아니라 오픈 가중치 모델도 문제가 되는 수준의 능력을 갖추고 있다. 향후 모델 개발사들은 무기 개발 관련 요청을 차단하는 분류기 같은 보안 대책을 지속적으로 배포하고 개선해야 하며, 정책 입안자들은 기존의 법제도가 AI 시대의 새로운 위협에 대응할 수 있도록 개선해야 한다.