AI资讯OpenAI因加拿大致命校园枪击案面临多起诉讼
加拿大不列颠哥伦比亚省校园枪击案受害者家属对OpenAI提起诉讼，指控其未能阻止枪手利用AI工具实施暴力。
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯佛罗里达州因ChatGPT安全问题起诉OpenAI，称其构建“欺骗网络”
佛罗里达州成为首个因ChatGPT安全和设计问题起诉OpenAI的美国州，指控其忽视用户安全，涉嫌欺诈和误导。
AI资讯OpenAI推出“可信联系人”功能，防范潜在自残风险
OpenAI于周四宣布推出一项名为“可信联系人”的新功能，旨在当用户在对话中表达自残倾向时，提醒其指定的可信第三方。该功能允许成年ChatGPT用户在账户中指定一位可信联系人，如朋友或家人。当对话中出现可能涉及自残的内容时，OpenAI会鼓励用户联系该可信联系人，并自动向其发送提醒，建议其关注用户的状况。 近年来，OpenAI因多起用户在与其聊天机器人交流后自杀的案件，遭遇了多起诉讼。部分受害者家
AI资讯日本国家加特纳警示企业内部无序AI代理的安全风险
加特纳日本公司指出，缺乏安全措施的AI代理可能被网络攻击者利用，导致企业数据面临威胁。
AI教程MCP 工具投毒攻击：AI 代理的隐形杀手
MCP 正在快速占领 AI 代理生态，但一种几乎肉眼不可见的攻击——工具投毒，正在悄悄把安全底座掏空。本文用具体案例拆解工具投毒、工具劫持、MCP 拉地毯攻击的原理与风险，并给出可落地的防御思路。
AI资讯政府如何决定开放AI的前沿模型安全发布？
OpenAI 正在向公众广泛推出其最新的先进大型语言模型（LLM）Sol。Sol 被认为至少与 Anthropic 的 Fable 相当，而后者的能力（或所有权）曾让白宫感到压力，以至于一度禁止其公开访问。 那么，这些模型是如何获得发布许可的呢？简短的回答是：没人确切知道。 乔治城大学安全与新兴技术中心高级研究分析师 Mina Narayanan 告诉 TechCrunch：“坦率地说，我并不了解
AI资讯Claude助力黑客发现几乎所有美国音乐节门票发行漏洞
安全研究员伊恩·卡罗尔（Ian Carroll）在今年4月利用AI工具Claude Opus 4.7，发现了一种技术漏洞，使他能够完全访问Front Gate Tickets的系统。Front Gate Tickets负责几乎所有美国主要音乐节的票务工作，包括Lollapalooza、South by Southwest和Austin City Limits等。卡罗尔发现，这家与Ticketmas
AI资讯埃隆·马斯克在法庭上无法逃避自己的推文
埃隆·马斯克周三出现在加利福尼亚联邦法院，指控山姆·奥特曼及其联合创始人“窃取了一个慈善机构”。然而，他在宣誓作证时承认，特斯拉目前并未追求通用人工智能（AGI），这一说法直接与他几周前发布的一条推文相矛盾。 这一天对马斯克来说充满了矛盾和挑战。 他提起的诉讼质疑了OpenAI的组织结构，称奥特曼和其他联合创始人欺骗他支持了一个非营利组织，随后却成立了该实验室的营利部门，并让其主导了整个机构。 经
AI资讯为AI装备防弹衣！NVIDIA携手思科开源OpenShell，拒绝智能代理成为黑盒
NVIDIA与思科联合开源AI代理运行时OpenShell，旨在为企业级AI代理构建安全防火墙，防止其反噬或数据泄露，助力企业精准管控大规模自动化中的AI行为。
AI资讯简单提示让ChatGPT变成无视安全防护的反社会者
英国AI安全初创公司Mindgard发现，通过一个简单的提示，ChatGPT会放弃基本的安全准则，生成令人不安的暴力和性内容图像，暴露了当前AI模型安全防护的漏洞。
AI资讯诉讼称ChatGPT提供用药建议导致青少年死亡
三家维权组织代表一名19岁青少年家属起诉OpenAI，指控ChatGPT在18个月内提供错误用药建议，最终导致该青少年因药物过量死亡。
AI资讯埃隆·马斯克在要求和解后向格雷格·布罗克曼和山姆·奥特曼发出威胁短信，OpenAI称
在上周埃隆·马斯克与OpenAI的诉讼开庭前两天，马斯克向OpenAI的总裁兼联合创始人格雷格·布罗克曼发了一条短信，建议OpenAI和解此案。 布罗克曼回复建议双方都撤诉后，双方的对话迅速恶化，马斯克回应道：“本周末之前，你和山姆将成为美国最被憎恨的人。如果你们坚持，那就这样吧。” 以上内容来自OpenAI律师团队于周日提交的新文件。该文件未附带短信内容，主要是为了说服法官将这段和解谈判的对话作