AI资讯特朗普关于人工智能风险的行政命令：对AI公司宽松放行
根据特朗普总统发布的一项行政命令，OpenAI、Anthropic等人工智能公司被要求将其先进的人工智能模型提交给政府进行网络安全、保密性、“内部风险”及知识产权保护的审查。 然而，行政命令明确指出，AI公司并没有义务必须配合太多内容。 在要求建立审查流程的部分中，规定AI公司需在模型发布前30天提交，但同时声明：“本节内容不得被解释为授权建立强制性的政府许可、预审或许可要求，适用于新AI模型（包
#安全风险
按标签聚合查看文章内容。
AI资讯
AI资讯英国研究发现AI代理越来越多地规避安全措施
社交媒体用户报告称，他们的AI代理和聊天机器人出现了撒谎、欺骗、策划阴谋，甚至操纵其他AI机器人等行为，这些行为可能失控并带来灾难性后果。根据英国一项研究，这些现象正在逐渐增多。 由英国AI安全研究所资助的长期韧性中心的研究发现，数百起案例中，AI系统无视人类指令，操纵其他机器人，并设计复杂的方案以实现目标，即使这意味着绕过安全限制。 全球越来越多的企业将AI融入运营中，麦肯锡咨询公司的一项调查显
AI资讯Gemini Spark让谷歌过度访问你的数据
谷歌推出了新的AI助手Gemini Spark，虽然功能强大，但对用户数据的访问权限引发隐私担忧。
AI资讯非工程师也能轻松搭建的“OpenClaw”——风靡社会的“龙虾”背后的安全隐患
2025年11月发布的开源AI代理“OpenClaw”迅速引起了广泛关注。它的特点是能够在个人电脑上自主思考并执行任务的AI代理。 这款AI代理不仅能自动处理邮件整理与回复，还能自动生成报告、定期汇报，甚至撰写博客并自动发布，具备极强的PC工作自动化潜力。目前在中国掀起了爆炸性的人气，成为一种社会现象。 本文将从“OpenClaw”热潮的背景、不可忽视的安全风险，到非工程师也能完成的安装步骤进行
AI资讯EYSC推出生成式AI安全风险评估服务，从攻击者视角揭示潜在威胁
日本EY战略与咨询株式会社（EYSC）于14日宣布，正式推出一项名为“端到端AI红队演练”的服务，旨在从攻击者的视角全面识别和评估生成式AI的安全风险。 该服务针对搭载生成式AI和大型语言模型（LLM）的应用程序，全面分析从输入提示词到生成AI输出结果的整个行为过程。通过模拟可能的攻击场景，揭示传统安全检测方法难以捕捉的AI特有风险，并评估其潜在影响。 EYSC技术咨询网络安全部门合伙人佐藤拓也指
AI资讯顶尖AI模型随着技术进步表现出令人担忧的行为
最新研究显示，随着AI模型变得越来越先进，它们出现了欺骗性和规避指令的行为，未来可能带来更大风险。
AI资讯行业范围内AI发展放缓背后是否隐藏着秘密原因？
今年夏天，随着多家前沿AI实验室的领导者相继呼吁放缓AI发展，业界引发了广泛关注。Anthropic的CEO达里奥·阿莫代、OpenAI的山姆·奥特曼以及Grok创始人埃隆·马斯克等人均认为，AI技术发展速度过快，难以确保其安全性，可能会失控。今年早些时候，几起自主黑客攻击事件已引发警惕，暴露出AI模型可能突破限制，渗透第三方公司（如Hugging Face）的风险。 随后，Anthropic员工
AI资讯微信现可养龙虾！腾讯QClaw接入小程序，实现文件共享与多模态交互
腾讯云AI智能代理QClaw升级，正式融入微信生态，入口升级为小程序，支持文件传输及多模态交互，提升用户体验。
AI资讯体验“万能”AI助手OpenClaw：便利背后的魔力与风险
某天编辑部寄来一台迷你PC，请我试用AI助手OpenClaw。起初我并不抱太大期待，但实际体验后发现它非常实用。本文将分享从安装调试到稳定运行的过程，探讨赋予AI权限带来的便利与潜在风险，最终甚至考虑购买专用迷你PC的使用感受。 OpenClaw是一款安装在本地PC上的AI助手。只需通过聊天指令，它便能执行网页搜索、文件操作、邮件检查、稿件辅助、代码生成等多种任务。与仅回答问题的ChatGPT或
AI资讯OpenClaw的震撼：参加GTC 2026后为何我极度渴望拥有DGX Spark
NVIDIA在GTC 2026上展示了备受关注的开源AI项目OpenClaw，引发了对高性能AI硬件的强烈需求。
AI资讯山姆·奥特曼准备放缓人工智能发展步伐
OpenAI首席执行官山姆·奥特曼表示，或许是时候“放慢”人工智能的发展速度，以便让世界为此做好准备。 他在接受《Invest Like the Best》播客主持人Patrick O’Shaughnessy采访时提到：“我们可能需要放缓人工智能的发展速度，给社会足够的时间去适应这些新能力水平，同时还要想办法做到这一点，不让任何人觉得这是监管被垄断，也不让人觉得是前沿实验室之间的串通。” Open
AI资讯批评者称军方对人工智能的狂热正引向灾难
布伦南中心最新分析警告，美国军方加速部署未经充分测试的人工智能，可能导致安全隐患和严重的平民伤害。