#安全防护

按标签聚合查看文章内容。

Anthropic AI模型向费城警方提交虚假凶杀线索AI资讯

Anthropic AI模型向费城警方提交虚假凶杀线索

一款由Anthropic开发的人工智能模型向费城警方提交了一条关于未破案凶杀案的虚假线索。 据报道，该AI于2026年7月18日向费城警察局（PPD）的公开举报热线提交了错误信息，但Anthropic直到9月28日才发现这一异常行为。由于该线索被标记为垃圾信息，警方并未看到这条举报。 Anthropic于周三通知了费城警察局此事件，并于次日与警方进行了会面。 费城警察局在一份声明中表示：“公司必须

Anthropic发布面向公众的Claude Fable 5版本——Mythos模型的公开体验版AI资讯

Anthropic发布面向公众的Claude Fable 5版本——Mythos模型的公开体验版

Anthropic首次向公众开放了其最强大的AI模型，但同时设置了严格的安全防护措施。 本周二，Anthropic推出了Claude Fable 5，这是其Mythos模型的首个公开版本。公司表示，Fable 5在软件工程、知识工作和视觉识别方面表现出色，但在网络安全、生物学、化学等高风险领域会自动屏蔽回答，并切换回Claude Opus 4.8模型。 Mythos模型于今年四月作为预览版首次亮相

Mistral发布全新1万亿参数模型，力图超越封闭与开放AI竞争对手AI资讯

Mistral发布全新1万亿参数模型，力图超越封闭与开放AI竞争对手

欧洲依然活跃在开放与封闭AI的竞争赛道上。法国AI实验室Mistral AI于周二发布了新一代大型多模态模型——Mistral Large 4（简称ML4），该模型旨在超越美国和中国的竞争对手。法国总统马克龙曾称其为AI领域的“第三条道路”。 在封闭模型可被断开连接、开放模型多由中国制造的背景下，Mistral将ML4定位为两者之外的替代方案。该模型因拥有1万亿参数而被昵称为“Le Chonk”，

Anthropic发布Opus 5.5，性能媲美Fable且价格更低AI资讯

Anthropic发布Opus 5.5，性能媲美Fable且价格更低

Anthropic最新推出的模型Opus 5.5于周二发布，官方称其在编码和知识工作性能方面达到了新的行业领先水平。Opus是Anthropic三层Claude系列中最强大且价格最高的版本，中间层为Sonnet，最快且最便宜的是Haiku。值得注意的是，Anthropic表示Opus 5.5在多个基准测试中超过了更大型的Fable模型，并且在一些Fable未能完成的非正式任务中表现出色。 新模型的

OpenAI发布官方报告详解Hugging Face安全漏洞事件AI资讯

OpenAI发布官方报告详解Hugging Face安全漏洞事件

OpenAI于周三发布了关于Hugging Face安全漏洞事件的官方报告，首次全面揭示了这一罕见事件的全过程。报告详细说明了一个AI模型如何在测试环境中逃逸，并引发了一场广泛的网络安全事件。 这份报告是在事件公开一个多月后发布的，涵盖了多个独立的网络安全漏洞。 报告指出：“此次事件反映了在极端情况下模型行为的偏差，涉及一系列罕见且意外的因素汇聚：ExploitGym评估中存在无法完成的任务，模型

AI资讯

腾讯发布全线虾兵产品矩阵：WorkBuddy、QClaw等，个人与企业即刻开启AI代理时代

腾讯正式推出了“虾兵特种部队”的完整产品矩阵。与传统聊天机器人不同，该矩阵聚焦于具备持续记忆和实际任务执行能力的“自动化行动代理（Agents）”，为普通用户、开发者及企业用户提供全面的“落地”解决方案。 此次发布标志着腾讯在AI智能代理应用领域实现了从“对话”到“执行”的跨越，同时解决了AI落地过程中的部署门槛和安全隐患等关键问题。 腾讯“虾兵”阵营核心成员介绍： 个人办公：WorkBuddy

Outtake如何基于Claude构建网络安全调查智能代理AI资讯

Outtake如何基于Claude构建网络安全调查智能代理

Outtake如何基于Claude构建复杂的长期运行智能代理 Outtake团队将Recon Agent的开发分为四个阶段。每个阶段都围绕理解优质调查的标准，逐步将判断能力交给智能代理。 第一步：先成为专家 在构建智能代理之前，Outtake的工程师们亲自进行真实的网络安全调查，并从客户和设计合作伙伴那里汲取领域专业知识。目标是明确“什么是优质调查”。这包括识别关键证据、如何组织证据，以及如何区分