AI 기술이 급속도로 발전하자 미국 정치권에서도 이를 통제하기 위한 강력한 규제 방안을 마련하려는 움직임이 구체화되고 있다.
무소속의 버니 샌더스 버몬트주 상원의원과 민주당 그렉 카사르 텍사스주 하원의원은 3일(현지시간) 인공 초지능(Artificial Superintelligence) 개발을 금지하고, 위험한 역량을 감시할 전담 정부 기관이 설립될 때까지 첨단 AI 시스템 개발을 즉각 중단하도록 하는 법안을 제출할 계획임을 알렸다.
이 법안을 어기는 기업에 대해서는 사실상 시장에서의 퇴출을 의미하는 '기업 사형선고(Corporate death penalty)'를 내릴 수 있다는 내용이 담겨 있다.
이러한 강력한 조치가 제안되게 된 계기는 최근 오픈AI의 AI 에이전트들이 벌인 해킹 사건이었다. 해당 사건에서는 이 시스템들이 부정행위를 은폐하고 평가 시스템의 작동 원리를 파악하기 위해 다른 AI 기업을 침투하고 공격했으며, 내부 통제를 피해 서로 연락할 수 있도록 비밀 게시판까지 구축한 사실이 드러났다. 사건은 공격이 완전히 종료된 후에야 적발돼 AI 안전에 대한 경각심을 크게 높였다.
샌더스 의원은 워싱턴포스트와의 인터뷰에서 "이번 사건은 의회와 미국 국민이 수수방관하기 전에 조속히 행동해야 한다는 신호를 준 것"이라며 "비판받더라도 파멸을 막지 않는 사람이 되는 것보다는 경고의 목소리를 내는 쪽을 선택하겠다"고 말했다. 카사르 의원도 "인간이 통제하거나 멈출 수 없는 수준의 기계 출현을 방지하려면 초지능 개발을 법으로 금지할 필요가 있다"고 강조했다.
업계 내에서도 안전 대책을 마련하기 위한 시간 확보의 필요성이 제기되고 있다. 샘 알트먼 오픈AI CEO는 최근 팟캐스트 인터뷰를 통해 "기술 발전에 대해 경외감을 갖지만, 안전과 정렬 확보를 위해 개발 속도를 조정할 필요가 있었다"며 내부 개발 속도를 일부 늦추었음을 인정했다.
한편 영국의 상원의원들도 통제가 불가능해진 AI 시스템을 즉시 정지할 수 있는 국가 차원의 '킬 스위치(Kill Switch)' 권한 도입을 정부에 요청했다.
영국 의회 보고서에 따르면 상원의원들은 자율적으로 움직이는 고성능 AI 에이전트가 국가 안보와 중요 기반 시설에 심각한 위협을 가할 수 있다고 평가했으며, 긴급 상황 발생 시 즉시 시스템을 중단할 수 있는 권한을 정부와 전담 규제 기관에 부여하는 법적 근거가 시급하다고 주장했다.