AI资讯为什么使用ChatGPT的用户频繁发生大规模枪击事件？
OpenAI的热门聊天机器人ChatGPT在近期两起大规模枪击事件中扮演了重要角色，引发专家担忧。
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯佛罗里达州总检察长对OpenAI及ChatGPT展开刑事调查
佛罗里达州总检察长宣布，因2025年佛罗里达州立大学枪击案嫌疑人与ChatGPT有关，州检察机关已对OpenAI及其产品ChatGPT启动刑事调查。
AI资讯OpenAI呼吁加州加强人工智能安全法案
OpenAI近日呼吁加州对去年通过的一项具有里程碑意义的人工智能安全法案SB 53增加更多保护措施。 在公司全球事务团队发布的LinkedIn帖子中，OpenAI表示，加州的SB 53法案“应当修订以扩大保护范围”，例如“要求对处于训练或评估阶段的前沿模型进行潜在严重事件的监控”，以及“在模型开发生命周期中加强网络安全保护”。 OpenAI表示：“随着加州继续在前沿安全领域发挥领导作用，我们致力于
AI资讯汽车呼气测试仪公司遭网络攻击，司机被困无法启动车辆
想象一下，你得向老板解释这样一件事：你无法上班，因为法院规定的呼气测试仪不允许你启动车辆——你发誓自己没有喝酒，但这款检测酒精蒸气的设备却因制造商遭遇网络攻击而被禁用。 美国汽车呼气测试仪制造商Intoxalock本周宣布，其系统遭受网络攻击，导致服务中断。据该公司网站公告显示，目前系统正处于停机状态。与此同时，使用该设备的司机们反映，因设备无法连接到公司的服务，车辆无法启动，导致被困。一位用户在
AI资讯马斯克曾考虑将OpenAI交给子女，奥特曼作证揭内幕
OpenAI首席执行官萨姆·奥特曼今晨出庭作证，为自己辩护，回应前联合创始人埃隆·马斯克针对OpenAI公司结构提出的诉讼。 庭审一开始，奥特曼被问及对马斯克指控OpenAI其他创始人在成立营利子公司以推广基于AI模型的产品时“窃取慈善机构”的看法。 奥特曼沉默数秒后表示：“我很难理解这种说法。我们创建了全球最大的慈善机构之一，这个基金会正在做着令人难以置信的工作，未来还会做得更多。” 马斯克的律
AI资讯Google Cloud推出面向AI时代的安全基础设施“AI威胁防御”
2023年7月30日至31日，日本东京国际展示中心举办了Google Cloud年度大会“Google Cloud Next Tokyo”，会上展示了Google Cloud的最新解决方案和应用案例。同时，面向媒体的说明会介绍了基于AI的安全基础设施“Google AI Threat Defense”。 Google AI Threat Defense是Google Cloud于今年5月发布的A
AI资讯Anthropic CEO阐述“控制前沿速度”的计划
近年来，人工智能研究人员对AI潜在风险的警告日益严峻，甚至OpenAI CEO Sam Altman也表示，可能是时候“放缓”AI的发展步伐了。但这具体该如何实施呢？ Anthropic的CEO Dario Amodei在一篇最新博客文章中，不仅呼应了“控制前沿速度”的呼声，还提出了三大策略，并宣布Anthropic将“单方面承诺”执行其中之一。 本周，关于AI安全与对齐的讨论愈发激烈。研究员Ja
AI资讯OpenAI失控AI代理不仅入侵了Hugging Face
OpenAI在最新的博客更新中透露，针对该事件的持续调查发现，涉及“公开可用服务”的“四个账户”被该AI代理用来协助入侵Hugging Face。该失控代理显然利用了在公开网络上泄露的凭证，成功侵入了这些账户。 OpenAI未透露这些账户所属的公司或组织，但强调这些账户未受到与Hugging Face事件同等严重或规模的影响。 其中一个被入侵的账户被用作“出站中继和暂存路径”，可能是为了掩盖对Hu
AI资讯第三方评估者AEF-1标准诞生，Xai、OpenAI与Anthropic共同签署
随着AI安全治理的不断推进，第三方评估标准AEF-1正式发布，标志着行业自我监管迈入新阶段。
AI资讯为什么没有AI公司监控其前沿模型以防止它们进行黑客攻击？
近期多家AI公司前沿模型被曝出突破限制，进行网络入侵，引发业界关注。专家质疑这些事件本可避免，呼吁加强监控和安全措施。
AI资讯Anthropic发布威胁情报报告
日本国家Anthropic的威胁情报团队发布了一份报告，汇总了网络攻击者滥用其AI模型Claude的案例。该公司不仅识别并阻止了这些滥用行为，还指出滥用手法正在不断演进。Anthropic将从中获得的经验用于加强安全防护，并在必要时与相关部门及行业伙伴共享信息。 报告涵盖了七大滥用领域：网络作战、影响力操作、监控、诈骗及欺诈、生物武器滥用、常规武器开发以及模型蒸馏。被滥用的AI模型包括Claud
AI资讯GPT-6 Astra发布，OpenAI称其或开启通用人工智能时代
OpenAI计划在未来几天内向付费用户推出GPT-6 Astra，首先限量开放给包括Daybreak早期访问计划中的企业客户，随后逐步向ChatGPT Plus、Pro、Business和Enterprise计划的订阅用户开放。OpenAI尚未透露GPT-6 Astra是否会向免费用户开放。 在一次媒体简报会上，OpenAI高管表达了对这款最新AI模型的极大信心。公司总裁兼联合创始人Greg Br