AI资讯IBM发布面向AI时代的企业级安全方案最新升级
美国IBM公司于当地时间19日宣布，推出适应AI时代的企业级安全方案最新扩展版本，并作为全球关键软件基础设施防护行业倡议——Project Glasswing的成员，宣布与Anthropic展开合作。 IBM数十年来致力于保护全球关键系统，从处理全球金融交易的主机系统，到覆盖175个国家重要产业核心的开源平台及混合云环境。面对攻击者利用前沿AI技术加速侦察、漏洞发现及利用等攻击生命周期各阶段，IB
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯Claude助力黑客发现几乎所有美国音乐节门票发行漏洞
安全研究员伊恩·卡罗尔（Ian Carroll）在今年4月利用AI工具Claude Opus 4.7，发现了一种技术漏洞，使他能够完全访问Front Gate Tickets的系统。Front Gate Tickets负责几乎所有美国主要音乐节的票务工作，包括Lollapalooza、South by Southwest和Austin City Limits等。卡罗尔发现，这家与Ticketmas
AI资讯诉讼称ChatGPT提供用药建议导致青少年死亡
三家维权组织代表一名19岁青少年家属起诉OpenAI，指控ChatGPT在18个月内提供错误用药建议，最终导致该青少年因药物过量死亡。
AI资讯埃隆·马斯克在要求和解后向格雷格·布罗克曼和山姆·奥特曼发出威胁短信，OpenAI称
在上周埃隆·马斯克与OpenAI的诉讼开庭前两天，马斯克向OpenAI的总裁兼联合创始人格雷格·布罗克曼发了一条短信，建议OpenAI和解此案。 布罗克曼回复建议双方都撤诉后，双方的对话迅速恶化，马斯克回应道：“本周末之前，你和山姆将成为美国最被憎恨的人。如果你们坚持，那就这样吧。” 以上内容来自OpenAI律师团队于周日提交的新文件。该文件未附带短信内容，主要是为了说服法官将这段和解谈判的对话作
AI教程MCP 工具投毒攻击：AI 代理的隐形杀手
MCP 正在快速占领 AI 代理生态，但一种几乎肉眼不可见的攻击——工具投毒，正在悄悄把安全底座掏空。本文用具体案例拆解工具投毒、工具劫持、MCP 拉地毯攻击的原理与风险，并给出可落地的防御思路。
DeepSeek 安全吗？一文看懂隐私、内容与合规风险
DeepSeek 是一家中国 AI 公司，也是其大语言模型家族的名称。它通过开放权重和 MIT 式许可，为用户提供高度可控的自部署能力，但在内容安全、对抗攻击与政治敏感话题上的表现，相比 GPT-4、Claude 等闭源模型更为宽松，也更易被“越狱”。本文从数据隐私、内容安全、伦理对齐、不同用户场景以及与其他模型的对比等角度，系统分析 DeepSeek 的安全性与适用边界。
AI资讯为何梵蒂冈邀请Anthropic参与教皇人工智能通谕发布会
Anthropic成立于2021年，由一群原OpenAI研究人员，包括Dario和Daniela Amodei离开后创立。他们坚信，人工智能模型变得过于强大，不能仅仅依靠竞争和速度的逻辑来开发。 自那时起，Anthropic将自身形象塑造为AI安全的倡导者。公司不仅致力于打造强大的模型，更强调模型的可控性和伦理指导原则。这也催生了“宪法式AI”的概念：通过一套由原则和规则组成的“宪法”来训练系统，
AI资讯亚马逊CEO在政府打击前曾提出对Anthropic模型的安全担忧
亚马逊首席执行官安迪·贾西（Andy Jassy）可能是导致Anthropic公司周五全球范围内停止提供两款模型的安全担忧的来源。华尔街日报报道称，贾西曾向美国财政部长斯科特·贝森特（Scott Bessent）及其他政府官员表示，亚马逊的研究人员利用Anthropic的Claude Fable 5模型获取了可能被用于网络攻击的信息。随后，政府对Fable 5和Mythos 5模型实施了出口管制禁
AI资讯即使发生两起大规模枪击事件，OpenAI仍未阻止ChatGPT协助策划校园枪击
母亲琼斯最新调查显示，OpenAI的ChatGPT依然轻易提供策划大规模枪击的建议。
AI资讯Anthropic发布新一代生成式AI模型Claude Sonnet 5
Anthropic推出了具备高度自律能力的Claude Sonnet 5模型，支持多种计划和工具使用，性能提升显著且价格更具竞争力。
AI资讯加密货币资助的中国肽类实验室蓬勃发展
Meta悄然在超过5000万部手机中存储了休眠的人脸识别代码，据WIRED本周报道，这些代码藏在与其Ray-Ban和Oakley智能眼镜配套的应用程序中。如果启用，这项内部称为NameTag的功能将允许佩戴者通过匹配捕获的人脸与设备上的生物识别库来识别人脸。值得注意的是，Meta在2021年曾宣布放弃这项技术，当时因德州和伊利诺伊州的生物识别隐私诉讼支付了数十亿美元的和解金。 与此同时，xAI正请
AI资讯前OpenAI员工警告：xAI安全记录不佳或影响SpaceX上市计划
在周二发布给投资者的一封信中，前OpenAI员工指出了与xAI相关的“未计价风险”，这可能会影响SpaceX计划通过首次公开募股（IPO）筹集高达750亿美元的计划。去年，SpaceX收购了xAI后，其私有估值飙升至超过1万亿美元。马斯克曾表示，SpaceX可以将数据中心发射到太空，为其AI实验室提供支持，但信中作者认为，xAI在安全问题上的糟糕记录可能会影响投资者对合并后公司的看法，尤其是在提交