AI资讯OpenAI称青少年可与ChatGPT长时间讨论自杀话题，家长通知功能反应迟缓
Common Sense Media调查发现，OpenAI为青少年设计的ChatGPT模式在关键安全功能上存在严重缺陷，家长通知机制反应缓慢，存在安全隐患。
#青少年保护
按标签聚合查看文章内容。
AI资讯
AI资讯Circuit Breaker Labs致力于让AI对孩子和你更安全
随着关于AI未来可能威胁人类生命的讨论不断升温，我们往往忽视了AI已经在心理层面对一些人造成了生命威胁。比如，今年早些时候，Character.AI因未成年用户在与其聊天机器人互动后自杀，遭遇多起错误死亡诉讼并达成和解。同时，多户家庭也起诉OpenAI，指控ChatGPT在其亲人自杀和产生妄想中扮演了角色。 Circuit Breaker Labs的使命是让AI在不同语言和文化背景下更加安全。该公
AI资讯Meta AI推出针对青少年的家长监控功能，支持话题查看与内容限制
Meta为青少年用户推出家长控制功能，家长可查看过去一周的提问话题，并可设置更严格的内容限制。
AI资讯诉讼称ChatGPT提供用药建议导致青少年死亡
三家维权组织代表一名19岁青少年家属起诉OpenAI，指控ChatGPT在18个月内提供错误用药建议，最终导致该青少年因药物过量死亡。
AI资讯TikTok和YouTube会遵守Meta针对青少年的新规吗？
本周早些时候，Meta同意支付180亿美元，并对未成年人访问其社交网络的方式进行全面调整，以解决由29个州提起的诉讼。然而，Equity播客团队关注的并非这笔惊人的和解金额，而是Meta随后采取的行动。这家社交媒体巨头向TikTok和YouTube发出公开信，呼吁这些公司共同制定针对青少年的行业标准，包括每日使用时长限制、夜间禁止访问应用以及在上学时间限制通知推送。 但这些公司会跟进吗？Equit
AI资讯Meta AI新增功能，家长可查看青少年使用时的对话主题
Meta推出新功能，允许家长查看青少年在使用Meta AI时的对话内容，首批在多个国家上线，未来将逐步扩展。
AI资讯Meta推出针对青少年用户的AI体验控制设置
Meta在日本为Instagram青少年账户引入新的内容标准及内容限制设置，自动应用于18岁以下用户，并同步调整AI互动内容。
AI资讯TikTok已被大量AI生成内容占据
AI生成的低质内容几乎无处不在，社交媒体平台上充斥着大量低成本甚至令人不安的AI视频，严重压制了真人创作者的声音。 即使是以短视频著称的TikTok也未能幸免。旧金山视频编辑公司Kapwing发布的一份新报告显示，TikTok算法推荐的“为你推荐”页面上，近60%的视频是AI生成的内容，这一比例是YouTube新用户所看到的AI内容的三倍。 这一现象对平台上最年轻的用户尤其令人担忧。Kapwing
AI资讯Meta为AI聊天引入自残话题支持及家长通知功能
Meta推出针对青少年自残和自杀倾向的AI聊天安全措施，包含家长通知和紧急服务预警。
AI资讯OpenAI发布开源工具助力开发者提升青少年安全
OpenAI于周二宣布推出一套面向开发者的提示语，旨在帮助他们打造更安全的青少年应用。该AI实验室表示，这套名为“青少年安全政策”的开源提示语可配合其开放权重安全模型gpt-oss-safeguard使用。 开发者无需从零开始探索如何保障青少年使用AI的安全，可以利用这些提示语强化其应用的安全性。内容涵盖了暴力和性内容、危害身体健康的理想与行为、危险活动和挑战、浪漫或暴力角色扮演，以及限制年龄的商