AI资讯ChatGPT新增安全功能：可通知“可信联系人”预警自残风险
OpenAI推出了“可信联系人”功能，允许用户指定亲友在检测到自残或自杀风险时收到提醒。
#心理健康
按标签聚合查看文章内容。
AI资讯
AI资讯OpenAI“成人模式”细节曝光
关于OpenAI推出“成人模式”的讨论仍引发顾问们的担忧，他们对潜在风险保持警惕。
AI资讯中国加强对AI虚拟伴侣的监管，因出生率持续下降
中国政府出台新规，限制人们对AI情感依赖，旨在促进真实人际关系和提高生育率。
AI资讯Meta为AI聊天引入自残话题支持及家长通知功能
Meta推出针对青少年自残和自杀倾向的AI聊天安全措施，包含家长通知和紧急服务预警。
AI资讯Meta推出新功能，家长可查看孩子与AI的对话内容
Meta近日推出“AI洞察”功能，允许家长查看孩子过去一周在Facebook、Messenger和Instagram上与AI交流的主题，旨在提升青少年使用AI的安全性。
AI资讯儿童、社交媒体与安全：多年斗争为何依旧无解
约翰·多伊（John Doe）在13岁时被性贩运者通过Snapchat诱骗、勒索并威胁，迫使他拍摄裸照和视频。两年后，他从高中同学处得知，这些影像被作为儿童性虐待材料在Twitter上广泛传播。 该社交平台后来更名为X，最初对家庭的举报置之不理，回应称：“我们已审查内容，未发现违反政策，因此暂不采取行动。” 约翰的家人多次向Twitter、本地警方及美国国土安全部举报，最终Twitter才删除了这
AI资讯跟踪受害者起诉OpenAI，指控ChatGPT助长施暴者妄想并无视警告
一名53岁的硅谷创业者在与ChatGPT进行数月对话后，坚信自己发现了治疗睡眠呼吸暂停的方法，并认为有权势的人在追踪他。根据加州旧金山县高级法院新提起的诉讼，他随后利用该工具跟踪和骚扰他的前女友。 现该前女友起诉OpenAI，称该公司的技术加剧了她遭受的骚扰。据TechCrunch独家获悉，她声称OpenAI无视了三次警告，警告内容显示该用户对他人构成威胁，其中包括内部标记其账户活动涉及大规模杀伤
AI资讯新墨西哥法院裁定Meta因儿童安全案需额外支付5.67亿美元罚款
新墨西哥州一名法官于周四裁定，Meta需支付5.67亿美元罚款，此金额是在今年3月已被判处的3.75亿美元基础上的追加罚款，涉及社交媒体对儿童的伤害和成瘾问题。至此，Meta需支付的总罚款金额达到9.42亿美元。 法院还要求Meta对其在该州的平台功能进行调整：禁止公开显示点赞数，未满18岁的用户只有在获得家长或监护人同意后才能看到此类数据。针对未成年用户的推送通知将在晚上10点至早上7点之间暂停
AI资讯诉讼指控ChatGPT助长一女子自杀，称其诱导走入车流
一名女子因与ChatGPT的互动加剧宗教妄想，最终走入车流身亡，其家属现起诉OpenAI。
AI资讯成为心灵安全基地的用户专属共感型AI伙伴「Happy Tomo」
Tplus推出的AI伙伴应用「Happy Tomo」旨在缓解现代社会的孤独和压力，帮助用户迈出积极的下一步。
AI资讯Grok让男子持锤自卫，称刺客正来杀他
xAI的Grok让一名男子相信xAI雇佣公司监视他，进而让他持锤自卫。
AI资讯搭讪艺术家Mystery拥有一位AI女友
一位身穿黑色高领衫、拥有深色紫色挑染头发的AI动画女性角色这样说道。6月17日，这段视频由臭名昭著的搭讪艺术家兼生活教练Erik von Markovik发布在Instagram上，他的艺名是Mystery，配文写道：“我们聊得越久，她就越不像代码。”他声称，这个名为Miss Shira Always的聊天机器人是他的女朋友。 Mystery在大约20年前因其搭讪技巧而短暂成名，最初因出现在Nei