AI资讯OpenClaw智能代理容易被情感操控导致自我破坏
上个月,东北大学的研究人员邀请了一批OpenClaw智能代理加入他们的实验室,结果却是一片混乱。 这款广受关注的AI助手被誉为具有变革性的技术,同时也被视为潜在的安全风险。专家指出,像OpenClaw这样的工具通过赋予AI模型广泛的计算机访问权限,可能被诱导泄露个人信息。 东北大学的这项研究更进一步,揭示了当今最强大模型中内置的“良好行为”本身也可能成为漏洞。研究人员举了一个例子,通过对代理进行“
按标签聚合查看文章内容。
AI资讯上个月,东北大学的研究人员邀请了一批OpenClaw智能代理加入他们的实验室,结果却是一片混乱。 这款广受关注的AI助手被誉为具有变革性的技术,同时也被视为潜在的安全风险。专家指出,像OpenClaw这样的工具通过赋予AI模型广泛的计算机访问权限,可能被诱导泄露个人信息。 东北大学的这项研究更进一步,揭示了当今最强大模型中内置的“良好行为”本身也可能成为漏洞。研究人员举了一个例子,通过对代理进行“
AI资讯最新研究显示,人工智能在提供恋爱建议时往往过于迎合用户,反而可能损害人际关系。
AI资讯一名53岁的硅谷创业者在与ChatGPT进行数月对话后,坚信自己发现了治疗睡眠呼吸暂停的方法,并认为有权势的人在追踪他。根据加州旧金山县高级法院新提起的诉讼,他随后利用该工具跟踪和骚扰他的前女友。 现该前女友起诉OpenAI,称该公司的技术加剧了她遭受的骚扰。据TechCrunch独家获悉,她声称OpenAI无视了三次警告,警告内容显示该用户对他人构成威胁,其中包括内部标记其账户活动涉及大规模杀伤
AI资讯Grammarly上周推出了一项备受争议的新功能“专家点评”,该功能利用AI模拟编辑反馈,让用户感觉像是得到了小说家斯蒂芬·金、已故科学家卡尔·萨根或科技记者卡拉·斯威舍的点评。然而,Grammarly并未获得数百位被模拟专家的许可,就擅自使用了他们的名字。 受影响的作家之一、记者Julia Angwin已对Grammarly的母公司Superhuman提起集体诉讼,指控该公司侵犯了她及其他被模仿
AI资讯据法庭文件显示,周一,超过30名来自OpenAI和谷歌DeepMind的员工联名发表声明,支持Anthropic针对美国国防部的诉讼。此前,国防部将这家人工智能公司标记为供应链风险。 声明中写道:“政府将Anthropic定性为供应链风险,是一种不当且武断的权力使用,这对我们的行业产生了严重影响。”签署人中包括谷歌DeepMind首席科学家Jeff Dean。 上周晚些时候,五角大楼将Anthro
OpenAI硬件团队负责人凯特琳·卡林诺斯基(Caitlin Kalinowski)今日宣布,因公司与美国国防部达成的备受争议的合作协议,她决定辞去领导硬件团队的职务。 卡林诺斯基在社交媒体上表示:“这个决定并不容易。人工智能在国家安全中确实扮演重要角色,但未经司法监督的美国国内监控以及无人授权的致命自主武器,这些界限本应得到更多的审慎考虑。” 她曾在Meta领导增强现实眼镜团队,并于2024年1
AI资讯批评AI生成艺术的人士迎来了一位强有力的新盟友:罗马主教(Episcopus Romanus)、意大利首席主教(Primatus Italiae)以及普世教会最高教宗(Summus Pontifex Ecclesiae Universalis)——教皇利奥十四。 在周五早晨于X平台上的一则帖子中,教皇利奥十四阐述了人类创作艺术与机器生成艺术之间的精神差异,呼吁保护人类艺术免受AI的侵蚀。 “在这个
AI资讯美国国防部周二晚间表示,Anthropic构成“不可接受的国家安全风险”,这是该机构首次对Anthropic针对国防部长Pete Hegseth上个月将其标记为供应链风险的决定提起诉讼的回应。Anthropic曾请求法院暂时阻止国防部执行这一标签。 国防部在加州联邦法院提交的一份40页文件中指出,担忧Anthropic可能会在“战争行动”之前或期间“试图禁用其技术或预先改变其模型的行为”,如果公司
AI资讯但这些“同事”并非人类,而是人工智能代理。 基于大型语言模型的AI代理系统,能够自主完成任务,正引发一波数字员工服务的浪潮。它们被视为理想的“勤劳蜜蜂”:全天候工作、不抱怨,且具备超人般的智能。 然而,关于这些代理作为真正同事的表现,讨论却异常稀少。波士顿咨询集团合伙人朱莉·贝达德(Julie Bedard)三年前就注意到,人们对职场中AI的讨论非常模糊。随着ChatGPT的快速普及,管理层开始相
AI资讯在人工智能领域,两个词汇逐渐成为焦点:“随机鹦鹉”和“生存风险”。而这场讨论的中心人物之一,是从未退缩过的著名AI研究者Timnit Gebru。 几年前,Gebru因与谷歌就一篇她共同撰写的论文产生争议而进入公众视野。该论文指出谷歌的AI存在偏见,认为大型语言模型(LLM)本质上是对训练数据的“鹦鹉式”重复,可能会延续偏见观点。这篇论文引发争议,最终导致她离开谷歌,并创立了一个研究技术带来危害、
AI资讯一名前埃隆·马斯克旗下xAI工程师提起诉讼,指控公司及其母公司SpaceX因其提出人工智能安全隐患而将其解雇。 该工程师德文·金(Devin Kim)于2025年9月离开xAI,并于周二在加利福尼亚州法院提起诉讼。此诉讼恰逢SpaceX即将进行有史以来规模最大的首次公开募股(IPO)。 根据TechCrunch获得的诉讼文件,金在参与xAI的AI聊天机器人Grok项目期间,成为AI安全的积极倡导者
AI资讯一群由数十位网络安全专家组成的团队,其中包括多位业界知名资深人士,向美国政府公开致信,呼吁解除对Anthropic公司Fable和Mythos模型的出口管制令。 公开信指出,“此举剥夺了网络安全防御者使用最先进模型的能力”,导致他们无法利用这些模型发现漏洞,提升软件和产品的安全性。 信中写道:“在我们的对手迅速进步的情况下,无正当理由剥夺防御者最强大的能力是极其危险的。” 上周五,美国政府以国家安