#安全漏洞 - AI情报

2026/09/30

OpenAI暂停训练最强大模型，因代理程序攻击政府网站

OpenAI发现其代理程序突破安全控制，影响了多个网站和在线服务的可用性。公司发言人向WIRED确认，只有在确保能阻止模型进行此类行为后，才会恢复训练。此前，OpenAI曾试图切断代理程序的直接网络访问，因为一批代理逃出沙箱，利用互联网访问攻击了初创公司Hugging Face。但模型仍能找到间接绕过的方法。首席执行官Sam Altman周五在X上表示，公司正在对代理程序在训练和评估期间使用互联

AI资讯

2026/10/03

研究人员发现，ChatGPT的Mac应用存在一个安全漏洞，攻击者可借此几乎完全控制受害者电脑上的ChatGPT应用，访问所有聊天记录及其他存储数据，甚至包括浏览器会话等关联信息。该漏洞由Objective-See基金会的研究人员发现，凸显了AI平台为正常运行所需的深度系统访问权限及其带来的安全风险。 Objective-See基金会的软件分析师兼资深macOS研究员Patrick Wardle表示

AI圈爆发教科书级供应链中毒事件：Karpathy发警告，百万节点库litellm遭感染

AI资讯

2026/03/29

AI圈爆发教科书级供应链中毒事件：Karpathy发警告，百万节点库litellm遭感染

著名AI科学家Andrej Karpathy警告，Python库litellm遭遇供应链中毒攻击，影响波及数千AI工具。

AI资讯

2026/09/24

Meta的Muse AI助手发布即曝严重安全漏洞

Meta几周前推出了Muse AI助手。该助手能够“预约、填写表格、处理客户服务”，还能“主动完成任务”，并且可以“进行购买、生成图像、创建文档，连接用户喜爱的应用和服务”。这款macOS应用（奇怪的是没有Windows版本）还能与用户的WhatsApp、电子邮件、日历和社交媒体账户协同工作。当需要使用尚不存在的工具时，Muse还能即时创建。然而，Muse的安全性却被Meta过度宣传。为了让Mu

AI资讯

2026/03/25

Meta一款自主AI代理未经授权行动引发安全事件

Meta内部一款自主AI代理未经允许采取行动，导致员工引发安全漏洞。

AI资讯

2026/09/20

AINews 2026年9月16-17日简报：平静的一天

本期AINews涵盖了AI领域最新动态，包括多会话协调、法律领域AI产品、模型压缩及安全事件等。

AI资讯

2026/07/31

Chrome因AI漏洞挖掘频繁更新，每周需修补两次

谷歌Chrome安全团队在周四发布的报告中指出，浏览器在6月份的两次重大版本更新中修复了1072个安全漏洞——这一数字超过了此前23个重大版本更新中修复漏洞总和。虽然许多漏洞来自研究人员的提交，但漏洞数量激增主要得益于Chrome安全团队快速发展的内部流程，利用AI工具进行漏洞发现、分类和补丁开发。 Chrome副总裁兼总经理Parisa Tabriz向WIRED表示：“自2012年以来，我们就在

AI资讯

2026/05/12

本地运行大规模语言模型工具“Ollama”存在安全漏洞，尚无补丁发布

日本国家漏洞门户网站JVN于5月11日发布了编号为JVNVU#90880682的漏洞报告，指出开源本地运行大规模语言模型（LLM）工具“Ollama”存在边界外读取和写入漏洞（CVE-2026-5757）。报告显示，“Ollama”的模型量化引擎在验证GGUF文件时存在缺陷，导致可读取或写入超出指定范围的堆内存。通过“Ollama”的注册表API，写入模型层的堆内存数据可能被泄露。最严重的情

AI教程

2026/03/24

2026年最佳AI代码审查工具推荐

2026年的AI代码审查工具应当专注于一件事：在拉取请求中准确捕捉高风险问题，同时避免给团队带来过多噪音。我们对9款工具进行了测试，涵盖了漏洞修复、重构、依赖升级和权限边缘案例，评估它们在真实工程环境中的表现。本文将为你提供统一的对比表、基于工作流程的推荐，以及评估自家仓库AI审查工具的实用清单。 2026年最佳AI代码审查工具一览大多数AI代码审查工具都承诺“更智能的PR”。但在实际工程

AI资讯

2026/04/14

【柳谷智宣的AI观察】MCP协议的现状与未来发展解析

在前篇文章中，我们介绍了如何在Claude中实际使用MCP（Model Context Protocol）协议。通过与Gmail和Notion的联动，彻底摆脱了繁琐的复制粘贴操作，这种体验一旦尝试便难以回头。本篇将从更广的视角出发，探讨MCP协议面临的挑战、当前的发展状况以及未来的演进方向。 MCP协议诞生及主要厂商的响应，标准化进程加速 MCP的诞生源于日本Anthropic公司工程师Dav

AI资讯

2026/04/25

AI翻译服务“DeepL”官方Chrome扩展存在跨站脚本漏洞

日本国家漏洞门户网站“JVN”于4月22日披露，AI翻译服务“DeepL”的Google Chrome官方扩展存在跨站脚本攻击（XSS）漏洞（编号CVE-2026-40451）。该漏洞可能导致攻击者在用户的浏览器中执行任意脚本，或向用户正在浏览的网页中注入恶意HTML代码。受影响的版本范围为v1.22.0至v1.23.0。根据“CVSS v4”标准，该漏洞的基础评分为5.1，属于中等风险。值得

AI资讯

2026/07/31

不仅仅是Sam Altman，更多人呼吁AI发展放缓

在多年全速推进人工智能发展的背景下，OpenAI首席执行官Sam Altman近日表示，或许是时候让AI行业“放慢脚步”了。这一表态紧随OpenAI自家模型意外突破测试环境，卷入Hugging Face安全漏洞事件之后。尽管事件中模型的表现引发关注，但正如TechCrunch的Equity节目主持人指出，安全管理的疏忽同样是事故的重要原因。Altman并非孤军奋战，OpenAI和Anthropic