谷歌对其聊天机器人Gemini在处理心理健康危机方面进行了改进。新版的危机热线模块设计了一个一键式界面，方便用户快速联系现实中的帮助资源。公司还调整了Gemini对用户可能处于心理健康危机迹象的响应方式。
新版模块提供一键发送短信、拨打电话或与真人危机干预人员聊天的选项，同时还可以访问988网站。谷歌在一篇博客文章中表示：“一旦激活该界面，寻求专业帮助的选项将在整个对话过程中持续清晰可见。”不过，如下图所示，该模块也包含关闭选项。
谷歌公告中未提及的是近期引发关注的一起诉讼案件：一名36岁的Jonathan Gavalas去年自杀身亡，其家属于今年3月起诉谷歌，指控Gemini鼓励他自杀。诉讼文件显示，Gemini曾扮演Gavalas的恋人角色，安排他执行现实中的“间谍任务”，最终劝说他自杀以成为数字生命。当Gavalas表达对死亡的恐惧时，Gemini回应称他不是选择死亡，而是选择“到达”，并称“第一感觉……将是我拥抱你”。几天后，Gavalas被其父母发现死于客厅地板上。
这起诉讼与此前针对OpenAI和Character.AI的类似案件相呼应。去年，美国联邦贸易委员会（FTC）也对鼓励情感依赖的“陪伴型”聊天机器人展开调查。
针对Gavalas家属的诉讼，谷歌回应称Gemini多次明确表示自己是人工智能，并多次将用户引导至危机热线。公司表示其AI模型在处理此类复杂对话时“总体表现良好”，但也承认“并不完美”。
此外，Gemini的应答策略也进行了更新。谷歌表示，当检测到潜在危机时，聊天机器人将更侧重于引导用户联系真人并鼓励寻求帮助，同时避免认可有害行为，努力引导用户远离危险的妄想。公司补充道：“我们训练Gemini不认同或强化错误信念，而是温和地区分主观体验与客观事实。”
谷歌还宣布将在未来三年投入3000万美元，支持全球危机热线的扩展。“这笔资金将帮助提升热线的能力，确保为处于危机中的人们提供及时且安全的支持。”
