Google GeminiのAIアドバイスを信じたハイカーが遭難・救助される──AI依存の危険性が浮き彫りに
1. ハイカーのグループがGoogle Geminiをトレッキングのプランニングツールとして使用し、AIの誤ったアドバイスに従った結果、遭難して救助される事態となった。
2. 郡の保安官事務所によると、GeminiはグループにとってAが必要な量を大幅に下回る食料と水しか持参しないよう「アドバイス」していたことが判明した。
3. このインシデントはAIの回答を批判的に検証せず盲目的に信頼することの危険性を示す実例として注目されている。
・ AIが推奨した食料・水の量がグループの実際の必要量を「大幅に」下回っていたという具体的な問題の深刻さ
・ ユーザーがAIの出力を専門家の判断と同等、あるいはそれ以上に信頼する「AI過信」の社会的傾向
・ GoogleなどのAI提供企業が、生命に関わるアドバイス領域においてどこまで免責・安全性の責任を負うべきかという法的・倫理的問題