#风险评估

按标签聚合查看文章内容。

美国Anthropic为AI编程工具“Claude Code”新增自动模式 评估风险仅对高危操作征求开发者许可AI资讯

美国Anthropic为AI编程工具“Claude Code”新增自动模式 评估风险仅对高危操作征求开发者许可

美国Anthropic公司于3月25日（日本时间）宣布，为其AI编程工具“Claude Code”新增了名为“auto mode”（自动模式）的功能。目前该功能作为研究预览版在Team计划中提供，未来也将逐步推广至Enterprise计划及API接口。 “Claude Code”是一款在终端环境中运行的AI代理型编程工具，能够代替用户执行文件读写、bash命令等多种操作。以往这些操作均需用户逐一

日本GMO网络安全公司推出利用实战攻击手法评估AI代理风险的新服务AI资讯

日本GMO网络安全公司推出利用实战攻击手法评估AI代理风险的新服务

日本GMO网络安全公司（GMOサイバーセキュリティ byイエラエ株式会社）于27日宣布，正式推出一项名为“AI代理渗透测试”的服务。该服务针对企业内部使用的AI代理、聊天机器人以及基于检索增强生成（RAG）技术的系统，采用与真实攻击者相同的手法，由白帽黑客执行渗透测试，帮助企业识别潜在的安全风险。 “AI代理渗透测试”服务通过模拟网络攻击，全面评估企业AI系统在业务流程、权限设置及与外部应用的联动