미국 캘리포니아주 북부에서 등산객들이 구글의 제미나이를 포함한 여러 AI 도구를 믿고 산행을 계획하다가 예상보다 오래 걸린 등반을 마친 후 하산 길에서 길을 잃어 밤새 고립되는 사건이 발생했다. 충분한 식량과 물, 안전 장비를 챙기지 않은 채 산을 오른 세 명의 등산객은 이튿날 산림청 레인저와 구조 자원봉사자들에 의해 무사히 구출됐다.
캐스케이드산맥에 위치한 샤스타산은 해발 1만4179피트(약 4322m)로, 이곳에서 이번 사건이 벌어졌다. 20세 남성 세 명으로 이루어진 일행은 클리어 크릭 루트를 통한 등반을 준비하면서 구글 제미나이뿐 아니라 유튜브와 올트레일스라는 등산 앱을 함께 활용해 여행 계획을 수립했다.
등산객들은 AI로부터 단순한 경로 정보와 예상 소요 시간뿐만 아니라 어떤 음식과 물을 얼마나 챙겨야 하는지까지 조언을 받았다고 한다. 특히 지방의 소화 시간이 길다는 정보에 따라 탄수화물 중심으로 적은 양의 식량을 준비했는데, 이는 약 8시간 분량에 불과했다.
하지만 실제 산행은 계획과 많이 달랐다. 이른 아침 3시에 출발한 일행의 등반 속도는 예상을 밑돌았다. 정상까지 도달하지 못하면 정오 무렵에는 하산을 시작해야 한다는 기본 안전 원칙도 지켜지지 않았다. 결국 정상 도착은 오후 7시가 되어버렸고, 본래 예상 시간 8시간이 16시간으로 두 배가 늘어났다.
문제는 해가 진 이후 하산을 시작하면서 심각해졌다. 스마트폰을 길잡이로 삼으려 했던 세 사람의 휴대전화는 배터리가 다 떨어졌고, 예비 배터리까지 정상적으로 작동하지 않았다. 결과적으로 경로를 이탈한 일행 중 한 명은 무릎 부상을 입었고, 셋 모두 협곡에 갇혔다. 충분한 음식도, 물도, 방한용품도 없는 상태에서 밤을 지낸 것이다.
다음 날 오전 9시 반쯤 샤스타산의 등반 레인저와 자원봉사 구조팀이 이들을 발견했고, 세 사람은 구조 조치를 받아 산을 내려올 수 있었다. 이 과정에서 등산객들은 자신들이 산행 계획 수립 시 AI에 과도하게 의존했다는 점을 인정했으며, 구조대원들에게 "AI의 제시에만 의존하고 우리 자신의 판단력을 사용하지 못했다"고 진술한 것으로 알려졌다.
미 산림청 샤스타산 지구의 수석 등반 레인저 닉 마이어스는 이번 사건을 단순히 AI의 오류로만 볼 수 없다고 설명했다. 제미나이가 제시한 8시간이라는 예상 시간 자체가 반드시 잘못된 것은 아니었지만, 실제 행동 속도가 느렸고 예상보다 시간이 오래 걸림에도 불구하고 추가 식량과 음수를 준비하지 않았다는 점이 문제였다고 지적했다. 또한 권장되는 정오 하산 시간을 훨씬 넘겨 계속 등반을 강행한 것이 최종적인 사고로 이어졌다는 분석이다.
마이어스는 올해만 해도 AI 도구를 사용하거나 과신하다가 산에서 곤경을 겪은 사례가 최소 세 건 있었다고 언급했다. 한 여성 등산객은 AI가 야영 가능하다고 했다는 이유로 야영 금지 표지판이 명확히 표시된 장소에 텐트를 쳤고, 다른 등산객은 AI가 만든 산행 지도를 가지고 왔는데 그 지도에는 산의 지형이 실제와 완전히 다르게 표시되어 있었다는 것이다.
마이어스는 AI가 산행 계획에 유용한 보조 도구가 될 수 있지만 유일한 의존처가 되어서는 절대 안 된다고 강조했다. 산악 환경은 날씨와 지형이 빠르게 변하고, 작은 결정 하나가 생명 안전에 직결될 수 있기 때문에 풍부한 경험을 갖춘 실제 등반가나 레인저 같은 전문가에게 최신 정보를 확인받는 것이 얼마나 중요한지를 강조했다.
구글도 제미나이의 답변에 오류나 환각 현상이 발생할 수 있으며, 중요한 정보는 사용자가 독립적으로 검증해야 한다고 명시하고 있다. 오픈AI도 챗GPT가 그릇된 정보를 확신 있게 제공할 수 있으므로, 중요한 내용에 대해서는 반드시 별도의 검증 절차를 거칠 것을 권고하고 있다.