徒步者因依赖AI聊天机器人获取可能救命或致命的建议而频频被困。就在上个月，加利福尼亚喀斯喀特山脉的三名户外爱好者因谷歌AI建议他们携带的食物和水远远不足，导致原计划的八小时登山变成了多日的艰难历程，最终被森林服务巡逻员救援。
尽管官方多次警告公众不要轻信这些会产生幻觉的大型语言模型，但警告似乎未被重视。
最近，一名16岁男孩在不列颠哥伦比亚省皇冠山的巨大陡峭岩壁“寡妇制造者”山脚下被救。根据CTV新闻报道，少年乘坐缆车登上海拔4000多英尺的格劳斯山顶，返回途中却被Anthropic公司的Claude AI聊天机器人误导，偏离了徒步路线。
男孩当时处境危险，但幸运的是他在困境中拨打了求救电话。
北岸救援队搜索经理保罗·马基告诉CTV新闻：“一旦跌落，可能会造成严重伤害甚至死亡。”
由于直升机无法靠近“寡妇制造者”陡峭的垂直岩壁，两名救援人员不得不绳降下去。
北岸救援队的任务总结写道：“抵达地面后，队员建立了锚点，一名队员通过保护装置下降至被救者处，随后建立了额外保护，将被救者转移至适合撤离的位置。”
马基再次呼吁公众不要信任像Claude这样的AI聊天机器人提供此类信息。他说：“Claude从未去过那个特定区域，未曾走过那条路线，也没有户外经验——请自行研究，积累对该地区的知识，并辅以培训和导航技能。”
更多AI相关内容： 徒步者因使用谷歌AI规划灾难性行程获救
