통념: 핵무기식 통제가 AI 사고를 막을 수 있나
미국·중국 안보 전문가들이 군사 AI에도 핵무기식 통제선을 적용하자고 제안하고 있다. 브루킹스연구소 선임연구원 멜라니 시슨과 푸단대 장톈자오 교수가 9월 9일 공개한 제안에는 핵무기 사용에 대한 AI의 자율 결정을 금지하고, 핵 지휘통제 시스템을 겨냥한 AI 사이버 공격은 사람이 단독으로 결정해야 한다는 내용이 담겼다.
또 하나의 핵심은 AI 사고 전용 군사 핫라인이다. 양국 전문가들은 AI가 핵 지휘 네트워크에 개입하거나 군사 사이버 작전을 시작하면, 정부가 공격 여부를 판단할 시간이 몇 분밖에 남지 않을 수 있다고 본다.
통념은 간단하다. 사람이 최종 승인하고, 긴급 연락망을 만들면 오판을 줄일 수 있다는 논리다. 그러나 진짜 쟁점은 통제선을 선언하는 데 있지 않다. 위기 상황에서 그 선이 실제로 작동하느냐에 있다.
반론과 맹점: 사람의 통제가 항상 안전한가
장톈자오는 자동화된 사이버 교전이 사람의 개입 없이 확대될 수 있다고 지적한다. 한쪽의 방어 AI가 의심스러운 활동에 자동 대응하면, 다른 쪽은 이를 공격으로 해석해 보복할 가능성이 있다. 이때 사람은 최종 결정권을 갖더라도 상황을 이해할 시간이 부족할 수 있다.
여기에는 몇 가지 함정이 있다.
- ‘의미 있는 인간 통제’의 정의가 다를 수 있다. 미국과 중국이 공동 정의를 마련하자는 제안 자체가 아직 합의되지 않았다는 뜻이다.
- 방어와 공격의 구분이 흐려질 수 있다. 자동 대응은 방어 목적이어도 상대방에게는 공격으로 보일 수 있다.
- 핫라인이 오판을 자동으로 막지는 않는다. 연락망은 정보를 전달할 뿐, 어떤 정보가 정확한지와 대응 수위를 결정하지 않는다.
- 정부의 공개 지지가 아직 없다. 제안은 9월 24일로 예정된 미국과 중국 정상회담을 앞두고 나왔지만, 양국 정부가 이를 공개적으로 받아들인 상태는 아니다.
2024년 11월 바이든 당시 미국 대통령과 시진핑 중국 국가주석이 핵무기 사용에 대한 인간 통제를 확인한 합의를 연장하자는 취지도 포함된다. 다만 핵무기 통제 원칙을 AI의 빠른 판단과 사이버 작전에 그대로 적용할 수 있는지는 별도의 의심이 필요하다.
최악의 리스크: 공격 의도보다 오해가 먼저 움직인다
가장 위험한 시나리오는 AI가 독자적으로 핵무기를 발사하는 장면만이 아니다. 더 현실적인 리스크는 방어 AI의 자동 대응, 상대방의 오인, 짧은 판단 시간이 연쇄적으로 이어지는 경우다.
이 구조에서는 어느 한쪽이 실제 공격을 하지 않아도 위기가 커질 수 있다. 한쪽의 시스템이 의심 활동을 감지하고 대응하면, 다른 쪽은 그것을 공격 신호로 해석할 수 있다. 그 결과 양국 정부가 사실관계를 파악하기 전에 보복 절차가 움직일 가능성이 생긴다.
잃을 수 있는 것은 단순한 시스템 안정성이 아니다. 핵 지휘통제에 대한 신뢰, 양국 간 위기 소통, 그리고 사람이 개입할 마지막 시간이 함께 줄어들 수 있다.
그래서 무엇을 봐야 하나
이번 제안을 평가할 때는 선언의 강도보다 실행 조건을 확인해야 한다.
- 미국과 중국이 의미 있는 인간 통제를 같은 기준으로 정의하는지 본다.
- AI의 자동 방어 대응이 어느 시점부터 사람의 승인 대상이 되는지 확인한다.
- AI 사고 전용 군사 핫라인이 실제 사고 분류와 오판 방지 절차까지 포함하는지 살핀다.
- 양국 정부가 민간 트랙2 대화를 공식 협의와 정책으로 연결하는지 지켜본다.
결론
미국 중국 안보 전문가의 AI 통제선 제안은 필요한 안전장치일 가능성이 있다. 그러나 통제선과 핫라인이 존재한다는 사실만으로 안전이 보장되지는 않는다. 핵심은 AI의 속도와 인간의 판단 시간이 충돌할 때, 누가 어떤 정보로 결정을 내리는지다.
독자는 앞으로 합의 문구보다 세 가지를 봐야 한다. 공동 정의의 구체성, 자동 대응의 중단 조건, 실제 위기 소통 절차다. 이 세 가지가 없다면 핫라인은 안전장치가 아니라 위기 사실을 더 빠르게 전달하는 통로에 그칠 수 있다.
- #군사AI
- #미국중국관계
- #AI통제
- #핵무기통제
- #군사핫라인