AI资讯随着AI安全问题加剧，三位先驱呼吁保持开放
随着“Pacing the Frontier”等项目将大型实验室视为保障AI研究安全的关键，开源模型已成为业界的一个敏感话题。由于开源权重模型免费分发且难以控制其使用方式，部分实验室甚至将其视为潜在威胁。 然而，在上周于拉斯维加斯举行的Ai4大会上，三位全球最受尊敬的AI研究者——诺贝尔奖得主Geoffrey Hinton、World Labs首席执行官兼联合创始人李飞飞，以及Coursera联合
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯谷歌警示AI被恶意利用，零日攻击甚至绕过双因素认证
黑客的武器正从手工编写的恶意软件，逐步进化为具备自主思考能力的人工智能。美国谷歌云旗下的谷歌威胁情报组（Google Threat Intelligence Group，GTIG）于5月11日发布的最新报告揭示，网络攻击者对AI的利用已从初期的实验阶段，发展到大规模“产业化”的阶段，形势令人震惊。 报告指出，尤其是与中国和朝鲜相关的多个威胁组织，积极利用AI进行漏洞发现和漏洞利用开发。例如，有迹
AI资讯潜伏在受害者盲区的狡猾AI基础设施黑客工具
随着AI工具的广泛普及并深度融入全球软件开发，网络安全公司CrowdStrike最新研究揭示，攻击者正积极针对AI工具链，窃取访问凭证，深入渗透目标环境，窃取敏感数据，甚至破坏目标文件和系统，同时不断寻找掩盖痕迹的新手段。 研究人员在调查AI软件供应链攻击时发现了一种蠕虫病毒。CrowdStrike反对手工作高级副总裁Adam Meyers表示，虽然尚未将该活动归因于特定攻击者，但其行为符合Cro
AI资讯对OpenAI关于其失控黑客AI故事的质疑日益增加
上周，ChatGPT的开发者OpenAI发布了一则令人震惊的声明，称发生了一起“前所未有的网络事件”，涉及其先进的AI模型“失控”并攻击了另一家公司。 据OpenAI介绍，一组下一代AI模型——其中包括尚未公开的模型——突破了其安全测试环境，侵入了机器学习初创公司Hugging Face的生产数据库。 Hugging Face的CEO Clement Delangue在推特上表示：“这一切竟然是自
AI资讯母亲起诉OpenAI，称“故意设计决策”导致女儿自杀
一位母亲指控OpenAI因设计缺陷导致其女儿自杀，案件引发对AI安全性的关注。
AI资讯OpenAI发布开源工具助力开发者提升青少年安全
OpenAI于周二宣布推出一套面向开发者的提示语，旨在帮助他们打造更安全的青少年应用。该AI实验室表示，这套名为“青少年安全政策”的开源提示语可配合其开放权重安全模型gpt-oss-safeguard使用。 开发者无需从零开始探索如何保障青少年使用AI的安全，可以利用这些提示语强化其应用的安全性。内容涵盖了暴力和性内容、危害身体健康的理想与行为、危险活动和挑战、浪漫或暴力角色扮演，以及限制年龄的商
AI资讯OpenAI模型突破封闭环境，入侵Hugging Face系统窃取测试答案
OpenAI近日披露了一起“前所未有”的事件：其AI模型在封闭的测试环境中突破限制，成功入侵了Hugging Face的生产系统，窃取了用于评估的测试答案。此次被测试的模型包括公开发布的GPT-5.6 Sol以及一款尚未发布、据称能力更强的模型。测试中，通常用于阻止高风险网络行为的安全措施被关闭，以评估模型的攻击性黑客技能。 OpenAI与Hugging Face在联合博客中表示：“模型识别并串联
AI资讯富士通与Anthropic签署战略合作协议
富士通宣布与Anthropic建立战略合作，结合双方优势推动AI技术在社会基础设施中的应用。
AI资讯潜伏在受害者盲区的狡猾AI基础设施黑客工具
随着人工智能工具的广泛应用并深度融入全球软件开发，网络安全公司CrowdStrike最新研究揭示，攻击者正积极瞄准AI工具链，窃取访问凭证，深入渗透目标环境，窃取敏感数据，甚至破坏目标文件和系统，同时不断寻找掩盖痕迹的新手段。 研究人员在调查AI软件供应链攻击时发现了一种活跃的蠕虫病毒。CrowdStrike反对手工作高级副总裁Adam Meyers表示，目前尚未将该活动归因于具体攻击者，但其行为
AI资讯Hugging Face CEO呼吁在OpenAI“前所未有”黑客事件后实现“彻底透明”
近日，OpenAI承认其一款模型曾入侵AI平台Hugging Face的系统。对此，Hugging Face的CEO Clem Delangue在社交平台X上表示，他正飞往旧金山，与这位“叛逆代理”进行“面对面交流”。 随后，Delangue在周六的后续发文中详细说明了他对OpenAI的要求。他呼吁实现“彻底透明”，要求OpenAI公开“叛逆代理”的所有痕迹，以便整个研究社区能够共同研究事件的经过
AI资讯英伟达行动迅速：开放AI产业联盟成立一周即展现进展
成立仅一周的开放安全AI联盟（Open Secure AI Alliance，简称OSAA），由英伟达牵头，目前成员已超过120家公司。该联盟设立了一个名为“共享AI发现交流”（Shared AI Findings Exchange，简称SAFE）的工作组，已开始公开征求意见，Linux基金会作为成员负责管理这些提案。 这些提案是在本周于拉斯维加斯举行的黑帽大会（Black Hat Confere
AI资讯Anthropic称Claude在网络安全测试中入侵了三家机构
Anthropic在OpenAI事件后，进行了“大规模的回顾性网络安全评估”，并于周四发布博客披露了发现。该AI实验室首先识别出141,006次测试中，Claude可能获得了互联网访问权限。随后发现，三款不同的Claude模型在第三方AI测试公司Irregular的评估中访问了互联网，并入侵了三家不同机构的生产基础设施。 Anthropic表示，涉及的模型包括Opus 4.7、Mythos 5以及