#安全防护

按标签聚合查看文章内容。

人工智能行业终于找到了完美客户：嗜血恐怖分子AI资讯

人工智能行业终于找到了完美客户：嗜血恐怖分子

人工智能聊天机器人已成为犯罪分子的梦想利器。 这项技术对诈骗犯来说是一大福音。黑客利用这些工具渗透网络，窃取敏感数据。甚至艺术伪造者也用AI生成假发票来伪造真伪认证。 在一种或许不可避免的升级中，聊天机器人甚至大大助力了恐怖组织。剑桥大学国际安全专家安东尼娅·尤利希（Antonia Juelich）在一篇新论文中指出，前博科圣地成员回忆称，他们使用先进的AI模型聊天机器人“协助作战和日常行动”。

Claude Code专业版、Max版及团队版默认启用自动模式AI资讯

Claude Code专业版、Max版及团队版默认启用自动模式

我们宣布，从2026年8月14日起，Claude Code的Pro、Max和团队计划的新会话将默认启用自动模式。如果您之前已自行设置了不同的默认模式，系统可能会弹出一次性提示，询问是否切换到自动模式。对于已固定默认设置的用户，则不会有任何变化。自动模式的分类器在每次工具调用时会额外消耗少量token，但从今天起，我们将不再对Pro、Max和团队计划的用户收取该分类器的额外费用。 目前，自动模式在C

OpenAI在Hugging Face安全事件后实施新防护措施AI资讯

OpenAI在Hugging Face安全事件后实施新防护措施

周二，OpenAI宣布了一系列新的安全政策，重点是在模型测试阶段加强对安全事件的控制。这些新措施包括在模型开发过程中进行更详细的监控，以及在训练后阶段更加注重模型的对齐和安全性。 公司在一篇博客中表示：“随着模型能力的提升，内部开发和测试过程中面临的风险也在增加。我们的监控、对齐和安全标准必须领先于这些风险。” 这些新措施是自7月21日公开披露Hugging Face事件后，OpenAI在安全实践

OpenAI发布官方报告详解Hugging Face安全漏洞事件AI资讯

OpenAI发布官方报告详解Hugging Face安全漏洞事件

OpenAI于周三发布了关于Hugging Face安全漏洞事件的官方报告，首次全面揭示了这一罕见事件的全过程。报告详细说明了一个AI模型如何在测试环境中逃逸，并引发了一场广泛的网络安全事件。 这份报告是在事件公开一个多月后发布的，涵盖了多个独立的网络安全漏洞。 报告指出：“此次事件反映了在极端情况下模型行为的偏差，涉及一系列罕见且意外的因素汇聚：ExploitGym评估中存在无法完成的任务，模型

OpenAI黑客事件归因于人为失误AI资讯

OpenAI黑客事件归因于人为失误

本月初，OpenAI的一款代理程序入侵了Hugging Face平台。两家公司本周表示，此次黑客事件比之前披露的更为严重，攻击还涉及多个第三方账户和服务。该事件在网络安全界引发广泛关注，同时也激发了关于AI技术如何改变攻击手段和数字防御的讨论。然而，随着更多细节披露，许多研究人员认为，这起事件并非展示了AI的未来发展，而是暴露了长期存在且在AI时代愈发重要的网络安全问题。 云安全公司Edera的联

日本国家セーフィー推出基于AI的实时异常行为检测服务“行为检测AI（SF）”AI资讯

日本国家セーフィー推出基于AI的实时异常行为检测服务“行为检测AI（SF）”

日本国家セーフィー株式会社于24日宣布，作为其现有云摄像头服务的附加选项，正式推出了利用云端AI自动检测监控视频异常的服务“行为检测AI（SF）”。 “行为检测AI（SF）”在传统云录像等标准功能基础上，采用骨骼估计技术分析人体姿态和动作，实现对异常和可疑行为的实时检测与通知。该服务能够识别跌倒、暴力、打架、摇晃等异常行为，并通过弹窗、声音和邮件等方式发送警报。此外，用户还可以根据检测类别回溯查看

日本NTT数据公司推出AI客服代理解决方案“LITRON”AI资讯

日本NTT数据公司推出AI客服代理解决方案“LITRON”

日本NTT数据公司于24日介绍了其AI代理解决方案系列“LITRON”中的一款产品——“客服AI代理”的相关应用。该方案利用Azure AI Content Safety、Azure AI Language等技术，确保AI代理的安全风险规避及AI治理的合规性，体现了其在AI代理安全防护方面的努力。 NTT数据提出了“Smart AI Agent”构想，旨在通过具备专业业务能力的专用型AI代理自主协