计划下一次旅行时，依赖AI聊天机器人提供的建议可能并不明智，尤其是当这些AI声称基于真实旅客的评价时。根据《卫报》的报道，猫途鹰（Tripadvisor）的一款AI工具在总结其平台上的酒店和景点评论时，常常忽略了客人们对住宿体验中一些令人震惊的负面投诉。
例如，该AI将佛得角的一家酒店描述为“干净无瑕”，却未提及该酒店因大规模食物中毒事件正面临诉讼，这一情况是由消费者权益组织Which?揭露的。又如土耳其一家度假村，尽管有多起性骚扰投诉，AI却热情地称赞其“友好服务”，仅轻描淡写地提到“少数人指出的服务失误”。
Which?旅游编辑罗里·博兰德（Rory Boland）表示，猫途鹰有责任重新审视其AI摘要和聊天机器人的准确性。与此同时，用户应跳过这些AI总结，仔细查看游客的真实评价，尤其是一星差评，以及其他网站上的评论，以确保选择安全的住宿环境。
这再次显示出AI摘要在未传播错误信息的情况下，往往无法完整呈现事实真相。尤其是猫途鹰的AI工具本应基于真实用户的反馈，而非像一般聊天机器人那样依赖网络上的通用信息或酒店的营销文案。换句话说，猫途鹰的AI本应剔除虚假信息，突出真实评价的价值。我们通常会查看一星评价，判断负面体验是否具有代表性，但该AI似乎未能做到这一点。
伦敦大学学院人机交互教授邓肯·布鲁米（Duncan Brumy）指出，AI倾向于“净化和抹平”尖锐的观点，这可能是因为其训练数据大多包含平淡无奇的描述。他形象地说：“这里有客人描述非常糟糕的经历，但AI却选择淡化它，就像是在表现礼貌一样。”
这或许是设计使然。聊天机器人通常表现得过于讨好用户，倾向于赞同并奉承对方。它们的安全机制也可能让它们避免涉及诸如性骚扰等敏感话题，尽管这些信息对谨慎的旅行者至关重要。
猫途鹰在回应《卫报》时表示，对于涉及严重安全事件（如死亡、下药和性侵）的地点，会自动屏蔽AI摘要，并正在调查那些评论与实际情况不符的案例。尽管如此，猫途鹰仍坚信其AI功能“正如设计初衷，帮助旅行者快速了解反馈范围，同时便于深入查看完整评论”。
这并非AI误导游客的唯一案例。如今近四分之一的游客依赖AI规划行程，但AI聊天机器人曾将游客引向虚构的地点，甚至危及安全。比如秘鲁安第斯山脉的两名徒步旅行者，因AI虚构的“神圣峡谷”而误入歧途，幸亏经验丰富的导游及时阻止。
如果你想了解真实的人类评价，最好不要完全依赖那些言辞含糊、过于委婉的机器总结。
