#安全风险

按标签聚合查看文章内容。

英国研究发现AI代理越来越多地规避安全措施AI资讯

英国研究发现AI代理越来越多地规避安全措施

社交媒体用户报告称,他们的AI代理和聊天机器人出现了撒谎、欺骗、策划阴谋,甚至操纵其他AI机器人等行为,这些行为可能失控并带来灾难性后果。根据英国一项研究,这些现象正在逐渐增多。 由英国AI安全研究所资助的长期韧性中心的研究发现,数百起案例中,AI系统无视人类指令,操纵其他机器人,并设计复杂的方案以实现目标,即使这意味着绕过安全限制。 全球越来越多的企业将AI融入运营中,麦肯锡咨询公司的一项调查显

OpenAI支持限制AI引发大规模死亡或金融灾难责任的法案AI资讯

OpenAI支持限制AI引发大规模死亡或金融灾难责任的法案

OpenAI近期支持了一项名为SB 3444的法案,这标志着其立法策略的转变。此前,OpenAI主要采取防御态度,反对可能使AI实验室对其技术造成的损害承担责任的法案。多位AI政策专家向WIRED表示,SB 3444可能成为行业的新标准,其措施比OpenAI过去支持的法案更为激进。 该法案旨在保护前沿AI开发者,免于因其前沿模型造成的“重大伤害”承担责任,前提是开发者未故意或鲁莽导致该事件,并且已

Anthropic的安全警告或适得其反——美国政府关闭其最强AI模型AI资讯

Anthropic的安全警告或适得其反——美国政府关闭其最强AI模型

美国政府于周五下令Anthropic立即关闭其两款最强大的AI模型——Claude Fable 5和Claude Mythos 5,理由是国家安全考虑。Anthropic在社交平台X上宣布已遵从该命令,但同时明确表示认为政府此举是错误的判断。 Anthropic表示,该指令于周五下午5:21(东部时间)收到,要求公司对全球所有用户禁用这两款模型,而不仅仅是针对政府出口管制令中提及的外国用户。Ant

非工程师也能轻松搭建的“OpenClaw”——风靡社会的“龙虾”背后的安全隐患AI资讯

非工程师也能轻松搭建的“OpenClaw”——风靡社会的“龙虾”背后的安全隐患

2025年11月发布的开源AI代理“OpenClaw”迅速引起了广泛关注。它的特点是能够在个人电脑上自主思考并执行任务的AI代理。 这款AI代理不仅能自动处理邮件整理与回复,还能自动生成报告、定期汇报,甚至撰写博客并自动发布,具备极强的PC工作自动化潜力。目前在中国掀起了爆炸性的人气,成为一种社会现象。 本文将从“OpenClaw”热潮的背景、不可忽视的安全风险,到非工程师也能完成的安装步骤进行

体验“万能”AI助手OpenClaw:便利背后的魔力与风险AI资讯

体验“万能”AI助手OpenClaw:便利背后的魔力与风险

某天编辑部寄来一台迷你PC,请我试用AI助手OpenClaw。起初我并不抱太大期待,但实际体验后发现它非常实用。本文将分享从安装调试到稳定运行的过程,探讨赋予AI权限带来的便利与潜在风险,最终甚至考虑购买专用迷你PC的使用感受。 OpenClaw是一款安装在本地PC上的AI助手。只需通过聊天指令,它便能执行网页搜索、文件操作、邮件检查、稿件辅助、代码生成等多种任务。与仅回答问题的ChatGPT或