如果你或你认识的人处于紧急危险中，应立即拨打911（或所在国家的紧急求助电话）或前往急诊室寻求帮助。请说明这是精神健康紧急情况，并要求接受过相关培训的人员协助。
随着业界对科技公司如何保护最年轻、最脆弱用户的关注日益增加，Meta于周四推出了针对其AI聊天机器人的新安全功能。这些保护措施主要针对表现出自残或自杀倾向的青少年，提供支持并通知家长。
作为Meta家长监管工具的一部分，成年人需主动选择并授权监督特定的Instagram、Facebook和Meta Horizons账户，具体操作指南可见Meta家庭中心页面。该功能目前已在美国、加拿大、英国和澳大利亚上线。
当青少年在与Meta AI聊天时表现出可能涉及自残的内容，监护人将通过短信、电子邮件或应用内通知收到提醒。提醒中不会包含青少年的具体信息，但Meta会向家长提供相关资源和建议。
Meta表示，已向青少年提供危机求助热线信息，并鼓励他们寻求可信赖成年人的帮助。若青少年在短时间内多次在Instagram搜索自残或自杀相关内容，家长也会收到通知。
Meta开发了AI系统以识别潜在危险对话，依托其心理健康专家团队和外部临床医生的专业支持。所有警报均经过人工审核，且公司将采取谨慎原则，优先通知家长。
此外，Meta正在研发紧急服务报警功能，用于在确认存在自杀风险时通知相关部门。该功能尚未上线，但预计将类似于Facebook和Instagram现有的报警系统，据称该系统已促成全球超过19,000次紧急健康检查。
作为Facebook和Instagram的母公司，Meta对技术可能带来的心理健康危害已有深刻认识。今年早些时候，Meta因故意设计成瘾性社交平台及助长儿童剥削行为，被两起陪审团判定有罪。
近期，科技监管机构和安全倡导者对AI聊天机器人可能引发的风险行为提出警告，部分甚至对科技和AI公司提起诉讼，关注点包括自残和自杀等问题。
