AI资讯Anthropic聘请经济学家称33%的人类灭绝风险可接受
Anthropic是众多大型AI公司中最喜欢对AI未来持悲观态度的公司之一——这也源于它对AI安全的高度关注。 然而，你绝对想不到他们新聘请的经济学家Chad Jones竟然持有怎样的观点。 据《金融时报》报道，这位长期任教于斯坦福大学的经济学教授曾撰写过一篇论文，评估了人类因AI导致灭绝的可接受风险水平，并将其与AI带来的经济增长潜力进行了权衡。 Jones在论文中写道：“假设我们面临每年1%的
#风险评估
按标签聚合查看文章内容。
AI资讯
AI资讯JSOL推出AI导航服务“TASTO.navi”助力制造业风险评估
JSOL于7月1日发布专为制造业设计与质量保证部门打造的AI导航服务“TASTO.navi”，旨在提升风险评估效率与决策质量。
AI资讯从攻击者视角评估集成生成式AI和大型语言模型的应用风险
EY战略与咨询推出针对生成式AI安全风险的端到端红队测试服务，帮助企业识别和应对特有威胁。
AI资讯日本GMO网络安全公司推出利用实战攻击手法评估AI代理风险的新服务
日本GMO网络安全公司（GMOサイバーセキュリティ byイエラエ株式会社）于27日宣布，正式推出一项名为“AI代理渗透测试”的服务。该服务针对企业内部使用的AI代理、聊天机器人以及基于检索增强生成（RAG）技术的系统，采用与真实攻击者相同的手法，由白帽黑客执行渗透测试，帮助企业识别潜在的安全风险。 “AI代理渗透测试”服务通过模拟网络攻击，全面评估企业AI系统在业务流程、权限设置及与外部应用的联动
AI资讯美国Anthropic为AI编程工具“Claude Code”新增自动模式 评估风险仅对高危操作征求开发者许可
美国Anthropic公司于3月25日（日本时间）宣布，为其AI编程工具“Claude Code”新增了名为“auto mode”（自动模式）的功能。目前该功能作为研究预览版在Team计划中提供，未来也将逐步推广至Enterprise计划及API接口。 “Claude Code”是一款在终端环境中运行的AI代理型编程工具，能够代替用户执行文件读写、bash命令等多种操作。以往这些操作均需用户逐一
AI资讯SentinelOne发布全新AI安全产品
SentinelOne日本公司推出多款新AI安全产品，强化AI安全防护与自动化运维能力。