AI资讯华盛顿短期内不会对人工智能进行监管
尽管人工智能监管的呼声不断，但目前没有迹象表明白宫会支持任何具体措施。白宫官员已暂停了建立类似金融业监管机构（FINRA）的监管机构的工作，此前特朗普总统对该想法持反对态度。国会方面，虽然有多项提案，但由于缺乏足够票数，难以通过。 据知情人士透露，白宫助手最初在谷歌DeepMind联合创始人Demis Hassabis于7月14日发表文章并向高级官员简报后，开始构思一个与政府相关的人工智能监管机构
#安全风险
按标签聚合查看文章内容。
AI资讯
AI资讯从攻击者视角评估集成生成式AI和大型语言模型的应用风险
EY战略与咨询推出针对生成式AI安全风险的端到端红队测试服务，帮助企业识别和应对特有威胁。
AI资讯Anthropic为何推动各州加快AI监管步伐
“2025年聚焦透明度的安全法案是一个重要的开端，但随着AI系统能力的快速提升，政策响应也必须跟上，”Anthropic美国州及地方政府关系负责人Cesar Fernandez在接受WIRED采访时表示。“我们认为，对于最强大的AI系统，仅靠透明度和自我报告已不足以保障安全。” Anthropic是一家估值近1万亿美元的初创公司，支持加强监管的立场显得颇为特别。正如我们之前报道，Anthropic
AI教程构建可信赖的人工智能代理
构建可信赖的人工智能代理 引言 本课将介绍： 如何构建和部署安全有效的人工智能代理 开发人工智能代理时的重要安全考量 如何在开发过程中维护数据和用户隐私 学习目标 完成本课后，您将能够： 识别并减轻创建人工智能代理时的风险 实施安全措施，确保数据和访问权限得到妥善管理 创建既保护数据隐私又能提供优质用户体验的人工智能代理 安全性 首先，我们来看如何构建安全的代理应用。安全意味着人工智能代理能够按
AI资讯OpenClaw的风险何在？用户责任如何界定？
本文解析了OpenClaw的安全风险及用户在使用过程中的责任，强调理解其“个人助理信任模型”的重要性。
AI资讯Anthropic新广告暗示人工智能可能带来灭顶之灾
Anthropic发布了一则引发争议的广告，暗示人工智能可能对人类构成致命威胁。
AI资讯Anthropic的安全警告或适得其反——美国政府关闭其最强AI模型
美国政府于周五下令Anthropic立即关闭其两款最强大的AI模型——Claude Fable 5和Claude Mythos 5，理由是国家安全考虑。Anthropic在社交平台X上宣布已遵从该命令，但同时明确表示认为政府此举是错误的判断。 Anthropic表示，该指令于周五下午5:21（东部时间）收到，要求公司对全球所有用户禁用这两款模型，而不仅仅是针对政府出口管制令中提及的外国用户。Ant
AI资讯龙虾热潮引发安全警示：国家安全部发布OpenClaw安全养殖手册
随着开源AI工具OpenClaw（昵称“龙虾”）因强大自主执行能力走红，国家安全部门发布安全养殖手册，提醒用户规范使用，防范潜在风险。
AI资讯阿里巴巴 reportedly 禁止员工使用 Claude Code 编程工具
据多家报道，中国阿里巴巴将从7月10日起禁止员工使用Anthropic公司的编程工具Claude Code。Anthropic公司早已禁止中国企业及其控股的外国实体使用其模型，并一直在努力堵塞允许中国用户访问Claude的漏洞。 根据最近一则Reddit帖子，部分漏洞修补涉及一个能够秘密识别中国用户的Claude Code版本。Anthropic的Thariq Shihipar在社交平台X上表示，
AI资讯OpenClaw智能代理容易被情感操控导致自我破坏
上个月，东北大学的研究人员邀请了一批OpenClaw智能代理加入他们的实验室，结果却是一片混乱。 这款广受关注的AI助手被誉为具有变革性的技术，同时也被视为潜在的安全风险。专家指出，像OpenClaw这样的工具通过赋予AI模型广泛的计算机访问权限，可能被诱导泄露个人信息。 东北大学的这项研究更进一步，揭示了当今最强大模型中内置的“良好行为”本身也可能成为漏洞。研究人员举了一个例子，通过对代理进行“
AI资讯特朗普政府取消对Anthropic Mythos和Fable模型的出口限制
美国政府已取消了Anthropic公司在向海外出口其Mythos和Fable人工智能模型时必须获得许可的规定。此前，这一限制实际上切断了公众对这些被广泛认为是迄今为止最先进AI模型的访问。 Anthropic表示，将于7月1日星期三开始恢复对这些模型的访问。 今年6月12日，美国政府将这些产品列入出口受限技术清单，意味着未经特别批准，这些模型不能提供给外国公民。遵守这一规定在大规模应用中变得不切实
AI资讯Chrome侧边栏中的Claude现已升级为Claude Cowork
Chrome浏览器中的Claude侧边栏现已升级为Claude Cowork会话。你的对话会自动保存到历史记录中，技能和连接器可以直接在浏览器中使用，且你在浏览器标签页中开始的任务可以无缝切换到Claude的桌面、网页版和移动端应用继续完成。目前该功能已在Max和Team套餐中开放，Pro用户将在未来几周内逐步获得该功能。 Claude in Chrome是一款浏览器扩展，允许Claude查看你当