구글 제미나이 여행 조언 부족으로 하이커 조난, 구조대 출동

• 구글 제미나이의 부정확한 등산 준비물 조언으로 하이커들이 조난돼 구조대가 출동했다.
• 생성형 AI의 환각 문제가 실제 안전사고로 이어진 사례로 주목된다.
• AI 조언에 대한 면책·검증 절차와 책임 소재 논의가 향후 쟁점이 될 수 있다.

미국의 한 보안관 사무소는 하이커 일행이 구글의 생성형 AI '제미나이'로부터 실제 필요량보다 훨씬 적은 식량과 물을 챙기라는 조언을 받았다고 밝혔다. 이 조언을 따른 하이커들은 등산 중 물자가 부족해져 조난 상태에 놓였고, 결국 구조대가 출동해 구조되는 상황으로 이어졌다. 발췌문만으로는 구체적인 지역, 날짜, 등산 코스, 구조 경위 등 세부 사실은 확인되지 않는다.

생성형 AI 챗봇은 여행·등산 준비물, 코스 난이도, 소요 시간 등 실생활 정보를 요청받았을 때 그럴듯하지만 부정확한 답변을 내놓는 '환각(hallucination)' 문제가 꾸준히 지적되어 왔다. 특히 특정 지역의 기후, 지형, 계절적 위험 요소처럼 실시간성과 현지성이 중요한 정보는 범용 언어모델이 일반화된 답변을 내놓기 쉬워 오차가 발생할 수 있다는 우려가 업계에서 제기되어 왔다. 이번 사건은 이러한 우려가 실제 안전사고로 이어진 사례로 주목받고 있다.

실무적으로는 AI 서비스 제공업체 입장에서 안전·건강 관련 조언에 대한 면책조항과 경고 문구 표기 수준이 소비자 보호 및 제조물책임·과실 책임 논의와 연결될 수 있는 지점이다. 여행업, 아웃도어 용품 업계, 지자체 관광안전 부서 등에서는 AI 챗봇이 생성한 정보를 그대로 신뢰하지 말고 공식 안내서나 현지 기관 정보와 교차 확인하도록 안내하는 절차를 점검할 필요가 있다. 또한 구조 활동에 소요된 비용 부담이나 책임 소재를 둘러싼 법적 쟁점이 향후 불거질 가능성도 염두에 둘 만하다.

이번 사건과 관련해 구글 측의 공식 입장, 구조에 소요된 비용, 하이커들의 구체적인 질문 내용과 제미나이의 실제 답변 전문 등은 원문 확인이 필요하다. 또한 유사 사고가 다른 AI 서비스에서도 발생했는지, 이를 계기로 관련 법령이나 서비스 정책이 변경되는지 여부도 추후 확인할 지점이다.

본문은 수집한 기사의 제목과 발췌를 바탕으로 AI가 정리한 해설입니다. 수치·날짜·조문 등 세부 사실은 원문에서 확인하세요.