#人工智能安全

按标签聚合查看文章内容。

为AI加速攻击时代打造安全防御体系AI资讯

为AI加速攻击时代打造安全防御体系

本周早些时候，我们发布了Project Glasswing——这是我们紧急启动的项目，旨在利用最新前沿模型Claude Mythos Preview强大的网络安全能力，专注于防御用途。在我们的公告及技术博客中，我们阐述了AI模型如何快速降低发现和利用软件漏洞所需的资源、时间和技能。 鉴于AI的飞速发展，我们也指出，类似能力水平的模型将在不久后广泛普及。在未来24个月内，许多长期未被发现的代码漏洞将

AI教程

DeepSeek 安全吗？一文看懂隐私、内容与合规风险

DeepSeek 是一家中国 AI 公司，也是其大语言模型家族的名称。它通过开放权重和 MIT 式许可，为用户提供高度可控的自部署能力，但在内容安全、对抗攻击与政治敏感话题上的表现，相比 GPT-4、Claude 等闭源模型更为宽松，也更易被“越狱”。本文从数据隐私、内容安全、伦理对齐、不同用户场景以及与其他模型的对比等角度，系统分析 DeepSeek 的安全性与适用边界。

日本GMO网络安全公司推出利用实战攻击手法评估AI代理风险的新服务AI资讯

日本GMO网络安全公司推出利用实战攻击手法评估AI代理风险的新服务

日本GMO网络安全公司（GMOサイバーセキュリティ byイエラエ株式会社）于27日宣布，正式推出一项名为“AI代理渗透测试”的服务。该服务针对企业内部使用的AI代理、聊天机器人以及基于检索增强生成（RAG）技术的系统，采用与真实攻击者相同的手法，由白帽黑客执行渗透测试，帮助企业识别潜在的安全风险。 “AI代理渗透测试”服务通过模拟网络攻击，全面评估企业AI系统在业务流程、权限设置及与外部应用的联动

马斯克在OpenAI诉讼中重提旧友谊AI资讯

马斯克在OpenAI诉讼中重提旧友谊

在周二针对OpenAI的诉讼中，埃隆·马斯克的证词中最引人注目的部分，并非他声称被剥夺的慈善项目（这早已被预料）。更令人关注的是关于一位老朋友的故事。 马斯克作证称，他共同创立OpenAI的核心动机之一，是因为与谷歌创始人拉里·佩奇在人工智能安全问题上的分歧。具体来说，马斯克曾提出人工智能可能会消灭人类的风险，而佩奇对此不以为意，认为只要人工智能自身能存活就“没问题”。佩奇称马斯克为“物种主义者”

谷歌警示AI被恶意利用，零日攻击甚至绕过双因素认证AI资讯

谷歌警示AI被恶意利用，零日攻击甚至绕过双因素认证

黑客的武器正从手工编写的恶意软件，逐步进化为具备自主思考能力的人工智能。美国谷歌云旗下的谷歌威胁情报组（Google Threat Intelligence Group，GTIG）于5月11日发布的最新报告揭示，网络攻击者对AI的利用已从初期的实验阶段，发展到大规模“产业化”的阶段，形势令人震惊。 报告指出，尤其是与中国和朝鲜相关的多个威胁组织，积极利用AI进行漏洞发现和漏洞利用开发。例如，有迹