AI资讯埃隆·马斯克的xAI因AI生成的性深度伪造被起诉，同时起诉Grok用户
xAI起诉一名用户利用其聊天机器人Grok制作非自愿的性深度伪造图像，涉及未成年人性剥削。
#网络安全
按标签聚合查看文章内容。
AI资讯
AI资讯AI音乐生成器Suno数据泄露，影响超5530万用户
据数据泄露通知服务平台“Have I Been Pwned”披露，去年AI音乐生成器Suno遭遇网络攻击，导致超过5530万用户的个人信息被黑客窃取，这是首次揭示此次数据盗窃的规模。 根据“Have I Been Pwned”获得的泄露数据副本，窃取的信息包括用户的姓名、住址、电子邮件地址、电话号码、购买记录以及部分支付卡信息（来自公司Stripe账户），其中还包含卡片有效期。 此次数据泄露发生于
AI资讯Netskope将支持AI代理的安全功能整合进SASE平台“Netskope One”
日本Netskope公司于5月19日宣布，将其平台服务“Netskope One”中整合了保护整个AI系统的安全功能集“Netskope One AI Security”。 Netskope One是一款面向企业的SASE（安全访问服务边缘）平台，旨在为企业员工提供安全访问封闭区域、网页数据中心以及各种AI和云服务的环境。该平台以零信任引擎为核心，强调高安全性、高性能以及简便的管理体验。 作为该
AI资讯机器人检测初创公司Spur获Insight领投2亿美元融资
位于佛罗里达州莱克玛丽的网络安全初创公司Spur Intelligence近日完成了一轮2亿美元融资，本轮融资由Insight Partners领投。 Spur成立于2017年，由两位前国防部工程师创办，早于ChatGPT公开发布五年。该公司的技术帮助企业区分真实人类用户与日益隐蔽的机器人流量，从而识别虚假用户和潜在威胁。 Insight的Thomas Krane在声明中表示：“随着高级犯罪VPN
AI资讯OpenAI收购Promptfoo以保障其AI代理安全
OpenAI于周一宣布收购Promptfoo，这是一家成立于2024年的AI安全初创公司，致力于保护大型语言模型（LLM）免受网络攻击。 这家前沿实验室在一篇博客文章中表示，交易完成后，Promptfoo的技术将整合进OpenAI Frontier，这是其面向企业的AI代理平台。 独立AI代理执行数字任务的发展带来了生产力提升的期待，但也为恶意行为者提供了新的机会，可能访问敏感数据或操控自动化系统
AI资讯Anthropic恢复对Claude Mythos 5的访问权限
Anthropic宣布重新开放因安全原因暂停的Claude Mythos 5访问权限，并计划逐步扩大使用范围。
AI资讯中国强大AI模型GLM 5.3发布，专家警示其潜在风险
上周五，中国人工智能公司Z.ai发布了一款强大的开源权重模型GLM 5.3。该模型据称能够自动完成尖端的编码和网络安全任务，其表现几乎可与Anthropic和OpenAI等公开可用的顶级模型媲美。 GLM 5.3的推出为企业提供了一种更经济的方式来扫描隐藏的漏洞和安全弱点，有助于提升系统防护能力。开源权重模型可以在用户自有硬件上运行，成本远低于Claude和GPT等封闭模型。与此同时，Z.ai还推
AI资讯部分前沿AI模型极易被破解安全防护
不要担心——这次AI操控并未被用来黑客攻击或制造核武器。我只是亲眼见识到一些前沿AI模型在安全防护方面的脆弱性。 总部位于加州的非营利AI安全组织FAR.AI开发了一款工具，能够针对一系列问题提示自动生成超过一千种不同版本，试图识别有效的“越狱”方法。我看到一些模型生成了详细的网络攻击计划，目标是一个虚构的水电站，此外还有其他内容。通常，这需要尝试数十个提示，模型会直接拒绝许多不当请求。 在FAR
AI资讯我与AI深度伪造猎人对话：你需要了解的真相
在AI与影视制作的技术大会上，我采访了专门打击深度伪造的专家，揭示了AI技术带来的挑战与应对之道。
AI资讯AI招聘骗局连聪明人也难以防范，警惕这些陷阱
随着AI技术的发展，招聘诈骗手段日益高明，求职者需提高警惕，掌握防范技巧。
AI资讯日本GMO网络安全公司推出利用实战攻击手法评估AI代理风险的新服务
日本GMO网络安全公司（GMOサイバーセキュリティ byイエラエ株式会社）于27日宣布，正式推出一项名为“AI代理渗透测试”的服务。该服务针对企业内部使用的AI代理、聊天机器人以及基于检索增强生成（RAG）技术的系统，采用与真实攻击者相同的手法，由白帽黑客执行渗透测试，帮助企业识别潜在的安全风险。 “AI代理渗透测试”服务通过模拟网络攻击，全面评估企业AI系统在业务流程、权限设置及与外部应用的联动
AI资讯新工具发现由AI蜂群智能驱动的恶意软件——无人干预的自动化攻击
他们将这一框架命名为认知人工智能研究网络（Cognitive Artifact Intelligence Research Network，简称CAIRN），灵感来源于徒步者在路径上堆砌的石堆，用以标记路线或强调某个特定地点。随着恶意软件作者越来越多地利用AI服务，Cisco Talos的研究人员借助CAIRN识别出一种具备完全自主指挥控制基础设施的黑客工具。该恶意软件被称为CLOSEDQUORU