除了求医问药，户外登山显然也是人们“绝不该轻易盲信AI”的领域之一。近日，几名年轻登山者在攀登美国加利福尼亚州锡斯基尤县的沙斯塔山（Mount Shasta）时，就因过分依赖GoogleAI聊天机器人Gemini而险些酿成大祸。原本AI预测只需8个小时即可完成的行程，最终让他们耗费了整整两倍的时间才到达山顶，并导致全员陷入严重困境。
涉事的三名登山者表示，他们为了这次行程主要参考了GoogleGemini、YouTube以及徒步应用AllTrails进行准备。除了依赖AI规划路线，他们甚至让该聊天机器人为他们建议所携带的食物和饮用水。Gemini当时给出的建议是，由于脂肪“需要过长时间才能消化”，因此针对这一段预计8小时的攀登，应携带单糖和碳水化合物而非脂肪类补给。听信这一建议后，队员们仅仅准备了自认为足以应付这场“相对短途”攀登的极有限饮水与补给。
8月29日，这三名登山者在克利尔溪（Clear Creek）源泉附近设立了大本营，而据《旧金山纪事报》（SFGate）指出，该区域实际上明令禁止露营。次日凌晨3点，三人正式拔营启程攀登。然而，实际的艰难程度远超AI的预估，直到8月30日晚间7点——历经长达16个小时的艰难跋涉后，他们才终于登顶，这一时间点早已远远超过了当地建议的正午12点折返底线。
登顶之后，局势急转直下。他们用于查看AllTrails导航路线的手机彻底耗尽电量关机。随着夜幕降临，其中一名队员为了节省头灯电量在黑暗中摸索前行，不幸在海拔约11500英尺（约3500米）处摔倒并伤及膝盖。眼见食物和水已消耗殆尽，身上缺乏过夜所需的保暖衣物和庇护装备，恐慌之中的登山者最终拨打911紧急电话求救。
由于山区当时狂风大作，救援直升机两次尝试索降吊运均告失败。直到8月31日上午9点30分，森林巡逻人员才终于通过地面徒步接触并成功解救了受困的三人。事后，这些心有余悸的年轻人在接受巡逻人员询问时坦承：“我们太依赖人工智能了，反而忽视了自己的批判性思考。”
盲目听信AI聊天机器人的建议而招致恶果的案例近来并不罕见。此前曾有农户按照聊天机器人的除草和防虫指导进行作业，直接导致25英亩农作物枯死；亦有人因遵循ChatGPT的饮食建议，患上了罕见的19世纪精神障碍疾患；另有一名19岁青年据称向ChatGPT寻求个性化用药建议，后者推荐了致命的药物配伍，最终导致当事人身亡并引发了针对OpenAI的诉讼。