통념: AI 공격은 AI 방어로 막으면 된다
“AI 해킹은 결국 AI로 막아야 한다”는 말은 속도의 비대칭을 짚는다. 2026년 9월 국제 사이버훈련 APEX 2026에서 종합 1위를 기록한 방어체계 ‘프로젝트 팔랑크스’에 참여한 정건우 스틸리언 연구원은 AI가 공격하는 만큼 방어도 빨라져야 한다고 말한다.
훈련에서 AI 공격팀은 알려진 취약점을 이용하는 데 그치지 않고, 여러 취약점을 조합해 새로운 침투 경로를 찾았다. 한 취약점으로 소스코드를 얻은 뒤 다른 허점을 찾아 시스템 장악으로 이어가는 식이다. 이는 공격이 단일 취약점 점검만으로 끝나지 않을 가능성을 보여준다.
속도만으로 충분할까
팔랑크스는 본부장·팀장·팀원 역할을 맡은 AI 에이전트가 분석과 복구를 수행하고, 최대 15개 보안 사고를 병렬 처리하도록 설계됐다. 서버 장애가 발생했을 때 AI 방어팀은 로그 분석과 복구를 동시에 진행했다. 인간 전문가가 원인 분석에 시간을 쓰는 동안 AI가 조치를 앞당길 수 있다는 점은 분명한 강점이다.
그러나 ‘AI가 빠르다’는 사실만으로 안전을 보장하진 않는다. 뉴스는 AI의 해킹 실력이 숙련된 인간 전문가를 뛰어넘지는 못한다고 전한다. 빠른 조치가 정확한 조치와 같다는 근거도 제시하지 않는다. 자동 수정이 잘못된 원인 분석에 기반하면 정상 서비스까지 영향을 받을 수 있다는 점은 실무자가 의심해야 할 함정이다. 다만 해당 훈련에서 그런 오류가 발생했다는 뜻은 아니다.
최악의 리스크는 연쇄 대응 실패
AI 공격은 취약점을 조합하고 사전 시나리오 밖의 경로를 시도할 수 있다. 방어가 한 번의 점검에 머물면 놓친 허점이 다음 침투의 발판이 될 가능성이 있다. 반대로 자동화된 방어가 잘못된 판단을 빠르게 확산하면 복구보다 영향 범위가 커질 수도 있다. 이는 기사에 나온 훈련 결과가 아니라, 속도 중심 대응에서 점검해야 할 리스크다.
결론
팔랑크스 사례가 보여주는 핵심은 AI 도입 자체보다 공격과 방어의 처리 속도 격차다. 실무자는 다음을 확인할 필요가 있다.
- AI가 병렬 처리하는 사고 수와 우선순위 기준을 확인한다.
- 로그 분석, 취약점 수정, 추가 침투 차단이 각각 검증되는지 점검한다.
- 자동 조치가 실패하거나 오판할 때 사람이 개입하는 경로를 확인한다.
- #정건우
- #스틸리언
- #프로젝트팔랑크스
- #AI보안
- #사이버보안