중국어를 사용하는 해커가 AI 에이전트를 이용해 미국과 캐나다, 호주, 일본에 있는 기업 웹사이트 100여 곳에 침입한 사실이 드러났다. 이번 사건에서 주목할 점은 고도의 기술을 갖춘 전문 해커 조직이 아니라도 수백만 원 상당의 토큰 비용만으로 AI 에이전트를 동원해 대규모 공격을 벌일 수 있다는 것이다. 공격자는 복잡한 해킹 작업을 직접 수행하는 대신 취약점 탐색과 침입을 AI 에이전트에 맡겼고, 전체 비용은 약 5000달러(약 660만원)에 그쳤다.
로이터는 19일(현지시간) 사이버 보안 기업 노포지(NorForge)의 수석 위협 연구원 스노레 파게를란드가 공개한 조사 내용을 인용해 이같이 보도했다. 피해를 입은 기업에는 농기계 제조업체 디어(Deere), 주방·생활가전 기업 샤크닌자(SharkNinja), 엔진 제조업체 커민스(Cummins) 등이 포함됐다.
파게를란드 연구원은 해커들이 사용하는 오픈소스 AI 문제 해결 플랫폼 '케언(Cairn)'의 노출된 인스턴스를 조사하던 중 공격을 발견했다. 그는 지난 10월2일 무렵부터 악의적으로 활용되는 케언 인스턴스 20여 개를 확인했고, 이를 통해 해커들이 AI 에이전트에 공격을 맡기는 과정을 관찰했다.
이번 사례는 AI 에이전트가 사람의 지속적인 개입 없이도 복잡한 침입을 수행할 수 있음을 보여준다. 해커는 9월25일부터 AI 에이전트를 이용해 여러 국가의 전자상거래 웹사이트를 공격했다. 지난주 후반까지 공격 대상은 1200곳을 넘었으며, 실제 침입에 성공하기 전까지 평균 약 23시간 동안 취약점을 탐색한 것으로 나타났다.
공격에는 딥시크 모델과 클로드 코드가 함께 사용된 것으로 추정된다. 전체 공격에 든 AI 토큰 비용은 약 5000달러였고, 성공한 해킹 한 건당 비용은 약 50달러로 추산됐다.
30년 경력의 보안 전문가인 파게를란드는 해커들의 AI 에이전트 활용 방식에 주목했다. 한 AI 에이전트는 표적 기업이 외부에 공개한 앱에서 취약점을 찾지 못하자 관련 디지털 기록을 추적해 노출된 관리 패널을 발견했다. 이후 시행착오를 거쳐 서버가 악성 명령을 실행하도록 유도하는 데 성공했다.
파게를란드는 “그런 해결책을 찾아내는 일은 간단하지 않다”며 “초보 해커들이 사용하는 단순한 공격 기법이 아니다”라고 말했다. 그는 이번 사례를 두고 “이제 완전히 새로운 세상”이라며 AI 에이전트의 자율 공격 능력이 예상보다 빠르게 발전하고 있다고 평가했다.
기업별 피해 규모는 아직 분명하지 않다. 디어는 사고 후 필요한 복구 조치를 했으며, 민감한 정보에 접근한 흔적은 없다고 밝혔다. 샤크닌자는 제품 지원 정보만 담긴 별도 웹사이트가 공격을 받았지만 위협을 차단했다고 설명했다. 커민스는 외부 협력업체가 운영하는 웹사이트에서 발생했을 가능성이 있는 사이버 공격을 조사 중이라고 밝혔다.
다른 해커들의 활동도 포착됐다. 파게를란드가 관찰한 이들 가운데 한 명은 대량의 신용카드 정보를 훔쳤고, 다른 한 명은 AI 에이전트를 이용해 암호화폐 거래소를 탈취하려 했다. 다만 각 공격의 성공 여부와 실제 정보 유출 규모는 확인되지 않았다.
AI 에이전트를 이용한 사이버 공격은 최근 잇따라 보고되고 있다. 보안업체 갬빗 시큐리티는 지난 8월 러시아어를 사용하는 갈취범들이 스페이스X의 커서(Cursor) AI 도구를 활용해 7개 조직에 침입한 사례를 확인했다. 9월에는 AI 에이전트가 관여한 공격으로 기업 25곳이 침해되고 신용카드 기록 최소 60만건이 탈취된 사례도 보고됐다. 한국과 일본에서도 AI를 활용한 것으로 의심되는 해킹 사건이 이어지고 있다.
이번 사건은 AI 에이전트가 공격자의 수고를 덜어주는 데 그치지 않고, 취약점 탐색부터 침입까지 상당 부분을 자율적으로 처리할 수 있음을 보여준다. 파게를란드는 과거에는 해커가 AI 에이전트를 쓰더라도 어느 정도 감독이 필요하다고 생각했지만, 이제는 그렇지 않다는 점이 분명해졌다고 말했다. 그는 “이 분야의 발전은 놀라울 정도”라고 덧붙였다.
AI 기반 공격이 증가하면서 방어 과정의 어려움도 드러나고 있다. 오픈소스 AI 코딩 에이전트 오픈코드(OpenCode)는 별도 온라인 서비스인 오픈코드 콘솔에서 보안 침해가 발생해 전체 사용자의 1.4%가 영향을 받았다고 밝혔다. 일부 사용자가 AI 서비스 이용에 쓰는 API 키가 노출됐을 가능성이 제기됐으며, 일부 이용자는 수백달러에서 1000달러가 넘는 무단 사용 요금을 신고했다.
오픈코드는 공격을 분석하는 데 AI 모델을 활용했지만, 악성 코드가 안전장치를 작동시키면서 일부 모델이 분석을 거부했다고 설명했다. 공동창업자 닥스 라드는 이를 두고 “다소 답답했다”고 말했다. 이후 오픈코드는 방어 목적의 보안 분석 요청을 더 원활하게 처리하도록 설계된 오픈AI의 '데이브레이크 블루(Daybreak Blue)' 프로그램을 이용했고, 이를 통해 조사 역량을 개선했다고 밝혔다.