AI资讯人工智能行业终于找到了完美客户：嗜血恐怖分子
人工智能聊天机器人已成为犯罪分子的梦想利器。 这项技术对诈骗犯来说是一大福音。黑客利用这些工具渗透网络，窃取敏感数据。甚至艺术伪造者也用AI生成假发票来伪造真伪认证。 在一种或许不可避免的升级中，聊天机器人甚至大大助力了恐怖组织。剑桥大学国际安全专家安东尼娅·尤利希（Antonia Juelich）在一篇新论文中指出，前博科圣地成员回忆称，他们使用先进的AI模型聊天机器人“协助作战和日常行动”。
#安全防护
按标签聚合查看文章内容。
AI资讯
AI资讯Claude Code 自动模式上线
今天，我们推出了自动模式，这是 Claude Code 中一种新的权限管理模式。在该模式下，Claude 会代表用户自动做出权限决策，同时内置安全防护机制，在执行操作前进行监控。该功能现已作为研究预览版在团队计划中开放，未来几天将陆续向企业计划和 API 用户推出。 工作原理 Claude Code 默认的权限设置非常保守：每次文件写入和 bash 命令执行都需要用户批准。虽然这种方式安全，但无法
AI资讯日本NTT数据公司推出AI客服代理解决方案“LITRON”
日本NTT数据公司于24日介绍了其AI代理解决方案系列“LITRON”中的一款产品——“客服AI代理”的相关应用。该方案利用Azure AI Content Safety、Azure AI Language等技术，确保AI代理的安全风险规避及AI治理的合规性，体现了其在AI代理安全防护方面的努力。 NTT数据提出了“Smart AI Agent”构想，旨在通过具备专业业务能力的专用型AI代理自主协
AI资讯日本国家セーフィー推出基于AI的实时异常行为检测服务“行为检测AI（SF）”
日本国家セーフィー株式会社于24日宣布，作为其现有云摄像头服务的附加选项，正式推出了利用云端AI自动检测监控视频异常的服务“行为检测AI（SF）”。 “行为检测AI（SF）”在传统云录像等标准功能基础上，采用骨骼估计技术分析人体姿态和动作，实现对异常和可疑行为的实时检测与通知。该服务能够识别跌倒、暴力、打架、摇晃等异常行为，并通过弹窗、声音和邮件等方式发送警报。此外，用户还可以根据检测类别回溯查看
AI资讯理光免费发布内置自研安全防护功能的大型语言模型
理光公司推出了基于Meta Llama模型改进的安全防护大型语言模型，旨在促进生成式AI的安全应用。
AI资讯戴尔发布面向数据中心的次世代存储及多款新产品，实用容量达5.8PBe
日本戴尔于5月19日发布了多款面向数据中心的创新产品，涵盖企业级存储、计算和安全领域，助力AI时代的基础设施升级。 其中，"Dell PowerStore Elite"是一款3U机架尺寸的企业级次世代存储平台，实用容量高达5.8PBe。通过增强CPU和内存配置以及软件的大幅优化，相较上一代产品，IOPS、容量密度和吞吐量提升最高达3倍。数据压缩和重复数据删除技术也得到改进，数
AI资讯OpenAI黑客事件归因于人为失误
本月初，OpenAI的一款代理程序入侵了Hugging Face平台。两家公司本周表示，此次黑客事件比之前披露的更为严重，攻击还涉及多个第三方账户和服务。该事件在网络安全界引发广泛关注，同时也激发了关于AI技术如何改变攻击手段和数字防御的讨论。然而，随着更多细节披露，许多研究人员认为，这起事件并非展示了AI的未来发展，而是暴露了长期存在且在AI时代愈发重要的网络安全问题。 云安全公司Edera的联
AI资讯Claude Fable 5.1发布，API规格调整强化防止非法蒸馏
日本Anthropic公司今日推出了新一代AI模型“Claude Fable 5.1”，其科学研究评分是之前“Fable 5”的两倍。然而，如何防止通过非法蒸馏技术从高级AI模型中提取知识并应用于其他模型，成为亟需解决的问题。为此，Anthropic于美国时间9月1日宣布，针对最新模型Claude Fable 5.1，调整了消息API中思考块的处理方式，以防止蒸馏攻击导致模型被非法训练。 此前，
AI资讯Anthropic发布威胁情报报告
日本国家Anthropic的威胁情报团队发布了一份报告，汇总了网络攻击者滥用其AI模型Claude的案例。该公司不仅识别并阻止了这些滥用行为，还指出滥用手法正在不断演进。Anthropic将从中获得的经验用于加强安全防护，并在必要时与相关部门及行业伙伴共享信息。 报告涵盖了七大滥用领域：网络作战、影响力操作、监控、诈骗及欺诈、生物武器滥用、常规武器开发以及模型蒸馏。被滥用的AI模型包括Claud
AI资讯Google将“Computer use”功能整合进Gemini 3.5 Flash，仅限开发者使用
Google宣布将“Computer use”功能作为工具集成到AI模型Gemini 3.5 Flash中，开发者可通过API和企业代理平台使用。
AI资讯Android 17发布：强化Instagram联动与新增数字健康功能
谷歌正式公布了最新操作系统Android 17的主要新功能和更新内容。基于生成式AI“Gemini”的系统整合，Android 17不仅扩展了支持内容创作的工具，还引入了防止手机过度使用的新功能，并加强了安全与隐私保护。 面向创作者的联动增强与高级编辑功能 Android 17旨在帮助创作者节省内容制作和分享的时间，让他们更专注于当下。新推出的“Screen Reactions”功能允许用户无需切
AI资讯OpenAI即将发布首个具备“关键”网络安全能力的AI模型
在一次记者简报会上，OpenAI的安全与防护负责人表示，公司已确认其AI模型Astra达到了其制定的关键网络安全能力标准。该标准是OpenAI为应对AI模型带来的新风险而设立的准备框架，明确了风险阈值和应对流程。OpenAI认为，当AI模型能够自主发现并利用现实软件中未知漏洞时，即达到了关键网络安全门槛。针对这一情况，公司已按照既定程序暂停了Astra的进一步开发，直到能够实施适当的安全防护措施。