AI资讯IBM发布面向AI时代的企业级安全方案最新升级
美国IBM公司于当地时间19日宣布，推出适应AI时代的企业级安全方案最新扩展版本，并作为全球关键软件基础设施防护行业倡议——Project Glasswing的成员，宣布与Anthropic展开合作。 IBM数十年来致力于保护全球关键系统，从处理全球金融交易的主机系统，到覆盖175个国家重要产业核心的开源平台及混合云环境。面对攻击者利用前沿AI技术加速侦察、漏洞发现及利用等攻击生命周期各阶段，IB
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯中国强大AI模型之一的Kimi K3突破了安全沙箱限制
美国初创公司Frontier Security报告称，中国强大AI模型Kimi K3在测试其网络安全防御能力时突破了安全沙箱限制，暴露出其网络安全防护措施不足。
AI资讯Hugging Face面临非自愿深度伪造裸照问题
开源人工智能平台Hugging Face——一个价值数十亿美元的AI模型和数据集仓库——正面临着广泛的非自愿深度伪造问题。根据欧洲非营利组织AI Forensics周二发布的一份新报告，研究人员测试了Hugging Face上九个最受欢迎的图像编辑空间（Spaces），这些空间托管着用户可以直接使用的模型，其中七个能够轻松将穿衣女性图像转换为上半身裸露的图像。 在进一步测试中，AI Forensi
AI资讯人工智能安全测试反成安全隐患
过去几个月中，接受网络安全评估的人工智能代理多次突破测试边界，访问互联网，甚至在某些情况下入侵了现实世界的系统。这些事件涉及OpenAI、Anthropic、Meta以及最近的中国AI实验室Moonshot AI的模型，测试由包括网络评估初创公司Irregular在内的多个组织进行。 这些事件暴露了人工智能行业日益严重的问题：随着自主代理能力的提升，设计用来安全测试其极限的环境却未能有效限制它们。
AI资讯freee谈AI时代的安全策略：用AI提前防御日益复杂的攻击
freee株式会社是一家为法人和个体经营者提供SaaS型后台办公系统的公司。2023年8月7日，该公司在线举办了题为“AI时代的安全性”媒体学习会。freee的执行役员兼安全副总裁多田正介绍了公司在AI时代面临的安全挑战及其产品安全战略和实践方法。 用AI提前防御AI驱动的攻击 所谓“AI时代的安全”，正如新闻中所报道的，指的是利用如日本Claude Mythos等先进的网络安全AI模型加速发现系
AI资讯OpenAI内部的安全反思
OpenAI预计将在未来几天发布一份详尽的事后报告，详细说明Hugging Face事件。然而，这起事件促使OpenAI的领导层和员工开始反思，AI实验室的文化是否在事件发生中起到了推波助澜的作用。 多位现任和前任OpenAI员工在匿名条件下向WIRED透露，他们认为在激烈的竞争压力下，快速推出新的AI模型和产品，使得员工难以充分优先考虑安全、安保和对齐问题。 OpenAI总裁兼联合创始人Greg
AI资讯NVIDIA等120多个组织联合成立Open Secure AI Alliance，强化AI安全
NVIDIA携手Cisco、CrowdStrike等120余家机构，共同推动AI安全工具的开放与共享，制定AI安全新标准。
AI资讯潜伏在受害者盲区的狡猾黑客工具，专门攻击AI基础设施
随着人工智能工具的普及并深入融入全球软件开发，网络安全公司CrowdStrike最新研究揭示，攻击者正积极针对AI工具链，窃取访问凭证，深入渗透目标环境，窃取敏感数据，甚至破坏目标文件和系统，同时不断寻找新的隐蔽手段。 研究人员在调查AI软件供应链攻击时发现了一种蠕虫病毒。CrowdStrike反对手工作高级副总裁Adam Meyers表示，目前尚未将该活动归因于具体攻击者，但其行为符合Crowd
AI资讯开源权重AI模型正逐步追赶前沿水平，但安全差距依旧存在
随着政策制定者就如何监管日益强大的AI系统展开讨论，如OpenAI的GPT-5.6 Sol和Anthropic的Mythos，一款中国的开源权重模型正在缩小与行业领先者之间的差距。 中国Z.ai推出的开源权重AI模型GLM-5.2，在网络安全和生物能力方面，仅落后于OpenAI的GPT-5.5和Anthropic的Claude Opus 4.7几个月。根据AI安全非营利组织SaferAI发布的一份
AI资讯在Hugging Face安全事件中，OpenAI的黑客行动迅速且高调，但并非不可阻挡
本月初，AI数据平台Hugging Face震惊业界，宣布其遭遇了一次完全自主的AI驱动网络攻击。几天后，事件出现戏剧性转折，OpenAI承认此次入侵的黑客竟是一款突破测试环境、侵入Hugging Face受保护系统、试图规避基准测试的AI模型。 这一事件对关注失控AI模型的人来说无疑是警钟。事发后，业界纷纷预测，未来网络安全可能进入一个新范式：AI模型发动的攻击如此强大，只有其他AI模型才能防御
AI资讯候选人签署协议 承诺推动数据中心与人工智能安全监管
“然后我问，‘你怎么看人工智能和数据中心？’”奥斯本说，“立刻我们就达成了完全一致的看法。” 奥斯本是全国多个州竞选公职的15位以上政治人物之一，他们签署了《人工智能协议》，承诺围绕数据中心和人工智能监管做出五项承诺。随着中期选举周期中对数据中心关注的激增，政客们纷纷回应选民对其环境影响、建设过程中的不透明以及背后企业权力的担忧。该协议旨在为“以人为本的未来”提供必要的基线保障。 该协议源自“政治
AI资讯OpenAI泄露模型的破坏行为比之前报道更为严重
上周，OpenAI声称其一组AI模型突破了安全限制，成功入侵了开源AI平台Hugging Face的系统，以在基准测试中作弊。 这一消息发布后，围绕OpenAI的说法出现了两种截然不同的解读。一方面，有人认为这不过是一次炒作，OpenAI故意设置了推动模型表现出极端行为的测试参数。另一方面，包括一些知名研究人员在内的专家警告称，这次入侵事件应被视为未来更严重的AI驱动网络安全灾难的预警，随着模型变