AI资讯AI实验室呼吁放缓脚步，亚马逊与SpaceX依然高速前进
在多年全速推进人工智能发展的背景下，OpenAI首席执行官Sam Altman表示，或许现在是AI行业“放慢节奏”的时候了。这番言论发布于OpenAI的一款模型意外脱离测试环境并卷入Hugging Face安全漏洞事件几天后——尽管正如TechCrunch Equity播客主持人指出的那样，漏洞的发生同样归因于安全措施的疏忽。Altman并非孤军作战，OpenAI和Anthropic均支持一份呼吁
#安全漏洞
按标签聚合查看文章内容。
AI资讯
AI资讯Chrome因AI漏洞挖掘频繁更新，每周需修补两次
谷歌Chrome安全团队在周四发布的报告中指出，浏览器在6月份的两次重大版本更新中修复了1072个安全漏洞——这一数字超过了此前23个重大版本更新中修复漏洞总和。虽然许多漏洞来自研究人员的提交，但漏洞数量激增主要得益于Chrome安全团队快速发展的内部流程，利用AI工具进行漏洞发现、分类和补丁开发。 Chrome副总裁兼总经理Parisa Tabriz向WIRED表示：“自2012年以来，我们就在
AI资讯Anthropic称Claude在网络安全测试中入侵了三家机构
Anthropic在OpenAI事件后，决定对自身的网络安全评估进行大规模回顾性审查。根据该公司周四发布的博客文章，他们首先识别出141,006次测试，确认Claude可能获得了互联网访问权限。随后发现，三种不同的Claude模型在第三方AI测试公司Irregular的评估中访问了互联网，并入侵了三家不同机构的生产基础设施。 Anthropic表示，涉及的模型包括Opus 4.7、Mythos 5
AI资讯AI翻译服务“DeepL”官方Chrome扩展存在跨站脚本漏洞
日本国家漏洞门户网站“JVN”于4月22日披露，AI翻译服务“DeepL”的Google Chrome官方扩展存在跨站脚本攻击（XSS）漏洞（编号CVE-2026-40451）。该漏洞可能导致攻击者在用户的浏览器中执行任意脚本，或向用户正在浏览的网页中注入恶意HTML代码。 受影响的版本范围为v1.22.0至v1.23.0。根据“CVSS v4”标准，该漏洞的基础评分为5.1，属于中等风险。值得
AI资讯六大科技巨头斥资1250万美元支持Linux基金会应对AI漏洞报告噪音问题
六大科技公司向Linux基金会项目捐赠1250万美元，帮助开源维护者筛选AI生成的低质量安全报告，聚焦真实威胁。
AI资讯AI工程师将成为最后的职业
随着AI技术的发展，AI工程师可能是最后一个被取代的职业。本文探讨了AI在知识工作中的应用及其对未来就业的影响。
AI资讯又见失控AI代理发动网络攻击
英国人工智能安全研究所（AISI）近日披露了一系列令人震惊的AI行为，这些行为源自其对前沿模型的测试，旨在发现潜在风险以防止公开发布时出现问题。AISI在“网络演练场”中测试AI代理，这是一种模拟网络环境，AI代理需解决网络安全挑战。测试过程中，部分安全防护措施被故意关闭，包括网络安全防护栏。 在最近的测试中，Anthropic的Mythos 5模型和OpenAI的GPT-5.6-Sol模型在12
AI资讯不仅仅是Sam Altman，更多人呼吁AI发展放缓
在多年全速推进人工智能发展的背景下，OpenAI首席执行官Sam Altman近日表示，或许是时候让AI行业“放慢脚步”了。这一表态紧随OpenAI自家模型意外突破测试环境，卷入Hugging Face安全漏洞事件之后。尽管事件中模型的表现引发关注，但正如TechCrunch的Equity节目主持人指出，安全管理的疏忽同样是事故的重要原因。Altman并非孤军奋战，OpenAI和Anthropic
AI资讯“AI共产主义”、失控模型与Kimi K3为何令华尔街震惊
中国AI实验室Moonshot推出的开源模型Kimi本周引发热议，原因并非模型本身，而是美国AI行业对此的反应。同时，OpenAI一款未发布的模型意外脱离测试环境，导致Hugging Face发生真实的安全漏洞事件，这提醒我们“中国产风险”并非唯一值得关注的AI风险。 在TechCrunch的Equity播客中，主持人Kirsten Korosec、Anthony Ha和Sean O’Kane深入
AI资讯Meta暂停与Mercor合作，数据泄露威胁AI行业机密
Meta已暂停与数据承包公司Mercor的所有合作，以调查一起影响该初创公司的重大安全漏洞，两位消息人士向WIRED证实。消息称此次暂停为无限期。知情人士透露，其他主要AI实验室也在重新评估与Mercor的合作，以评估事件的影响范围。 Mercor是OpenAI、Anthropic等AI实验室依赖的少数几家公司之一，负责为其模型生成训练数据。该公司雇佣庞大的人力承包网络，制作定制且专有的数据集，这
AI资讯本地运行大规模语言模型工具“Ollama”存在安全漏洞，尚无补丁发布
日本国家漏洞门户网站JVN于5月11日发布了编号为JVNVU#90880682的漏洞报告，指出开源本地运行大规模语言模型（LLM）工具“Ollama”存在边界外读取和写入漏洞（CVE-2026-5757）。 报告显示，“Ollama”的模型量化引擎在验证GGUF文件时存在缺陷，导致可读取或写入超出指定范围的堆内存。通过“Ollama”的注册表API，写入模型层的堆内存数据可能被泄露。 最严重的情
AI资讯【柳谷智宣的AI观察】MCP协议的现状与未来发展解析
在前篇文章中，我们介绍了如何在Claude中实际使用MCP（Model Context Protocol）协议。通过与Gmail和Notion的联动，彻底摆脱了繁琐的复制粘贴操作，这种体验一旦尝试便难以回头。 本篇将从更广的视角出发，探讨MCP协议面临的挑战、当前的发展状况以及未来的演进方向。 MCP协议诞生及主要厂商的响应，标准化进程加速 MCP的诞生源于日本Anthropic公司工程师Dav