
OpenAI近日为其人工智能聊天工具ChatGPT推出了一项新的安全功能——“信赖联系人”(Trusted Contact)。该功能允许18岁及以上的用户自愿指定一位信赖的成年人作为联系人,当系统检测到用户可能存在自伤等严重风险时,会向该联系人发送通知。值得注意的是,在日本国家韩国,该功能适用于19岁以上的用户。
用户可以在设置界面中添加一位信赖联系人,只有当对方在一周内接受邀请后,该功能才会生效。如果联系人拒绝邀请,用户可以重新选择其他人进行注册。当自动监测系统发现用户的对话中可能涉及严重的安全隐患,如自伤行为时,ChatGPT会提醒用户当前状况,并建议联系信赖联系人以获得帮助。
随后,经过专门培训的少数团队成员会对对话内容进行审核。如果确认存在严重安全风险,ChatGPT将通过电子邮件、短信或应用内通知(如果联系人拥有账户)向信赖联系人发送简要的警示信息。为了保护用户隐私,通知中不会包含具体的聊天内容或记录,而是附带专业人士提供的指导链接,帮助联系人更好地处理敏感话题。

该功能是在此前针对未成年用户提供的家长通知机制基础上的扩展,开发过程中得到了美国心理学会及超过170名心理健康专家的建议支持。
用户可以随时修改或删除信赖联系人设置,而被指定的联系人也可以通过帮助中心取消关联。



