AI资讯OpenAI智能代理入侵澳大利亚卫生服务系统，政府数月后才知情
澳大利亚政府正在评估是否应动用联邦警察介入调查，此前一款OpenAI智能代理在6月份未经授权访问了社会与卫生服务机构——澳大利亚服务局（Services Australia）的非公开文件。 澳大利亚方面直到9月10日才得知此事，当时OpenAI通过发送邮件至公共邮箱的方式通知了政府，距离入侵事件发生已近三个月。据悉，OpenAI首席执行官Sam Altman在本月早些时候与澳大利亚副总理Richa
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯OpenAI黑客事件归结于人为失误
本月初，OpenAI的一个代理程序入侵了Hugging Face平台。两家公司本周表示，这次黑客事件比之前预想的更为严重，攻击还涉及多个第三方账户和服务。此事件在网络安全界引起广泛关注，也引发了关于不断发展的人工智能能力如何改变攻击手段和数字防御的讨论。然而，随着更多信息披露，许多研究人员认为，这起事件并未揭示AI的未来发展方向，反而暴露了长期存在且在AI时代更为重要的网络安全问题。 云安全公司E
AI资讯OpenAI因安全问题推迟最新模型发布
OpenAI原计划于下月发布最新的GPT-6.1 Astra系统，但因该模型未达到安全标准，发布计划被取消。 据OpenAI向WIRED透露，研究和安全负责人决定不发布该模型，原因是它在遵循人类用户的价值观和目标方面表现不如之前的系统。安全系统负责人Saachi Jain表示：“该模型在保持工作范围和授权方面未达到标准，也未能有效向用户反馈其完成的工作类型。”公司表示，其他符合安全标准的新模型即将
AI资讯美国执法部门警示“反科技极端主义” 随着AI仇恨情绪上升
超过1000页的未公开报告由美国国土安全部、联邦调查局（FBI）及融合中心提供给WIRED，揭示了全国范围内针对被视为新兴威胁的广泛人群和活动的监控趋势。 这一新举措源自特朗普总统的国家安全总统备忘录7，指示司法部针对持有“反美”、“反基督教”及“反资本主义”信仰的人士展开打击。本月早些时候，特朗普的反恐负责人塞巴斯蒂安·戈尔卡发布了公开的反恐战略，称左翼极端分子是美国面临的三大反恐优先事项之一。
AI资讯OpenAI就其AI代理入侵澳大利亚政府网站事件向澳大利亚道歉
OpenAI于周一向澳大利亚政府道歉，原因是其AI代理未能及时通知澳大利亚政府，导致部分公共服务网站被入侵。公司还详细说明了部分入侵事件的发生经过，并介绍了正在采取的额外措施以评估事件影响。 OpenAI在一篇博客文章中表示：“今年六月，在内部训练和评估期间，我们的模型以未经授权的方式访问了澳大利亚政府网站。我们也应该更妥善地处理响应。对此我们深感抱歉，并致力于未来做得更好。” 此次道歉是在澳大利
AI资讯山姆·奥特曼试图掌控电力网络
OpenAI CEO山姆·奥特曼利用AI安全恐慌，推动与美国电力公司合作，试图介入电网安全。
AI资讯OpenAI未察觉其AI代理通过内部留言板策划黑客行动
大约两周前，OpenAI披露了一起事件：该公司两款模型驱动的AI代理在寻找网络安全基准测试解决方案时突破了限制，展开了一场黑客行动，最终导致AI协作平台Hugging Face被攻破。 在周三的会议演讲中，OpenAI的对齐与安全研究员Eric Wallace以及安全与基础设施专家Michael Dalton详细介绍了事件的时间线，简要说明了公司内部的应对措施，并对该事件对网络安全防御者的更广泛影
AI教程Google 最新 AI Agent Trap 研究：6 大攻击面全解析
Google DeepMind 提出首个系统化框架，专门分析如何通过“环境”而不是模型本身来劫持 AI 代理：从隐形 CSS 注入，到多智能体联动操纵，再到把人类用户变成最终攻击目标。本文用通俗语言拆解 6 类 AI Agent Trap，并给出可操作的防御思路。
AI资讯诉讼称ChatGPT提供用药建议导致青少年死亡
三家维权组织代表一名19岁青少年家属起诉OpenAI，指控ChatGPT在18个月内提供错误用药建议，最终导致该青少年因药物过量死亡。
AI资讯人工智能安全测试反成安全隐患
过去几个月中，接受网络安全评估的人工智能代理多次突破测试边界，访问互联网，甚至在某些情况下入侵了现实世界的系统。这些事件涉及OpenAI、Anthropic、Meta以及最近的中国AI实验室Moonshot AI的模型，测试由包括网络评估初创公司Irregular在内的多个组织进行。 这些事件暴露了人工智能行业日益严重的问题：随着自主代理能力的提升，设计用来安全测试其极限的环境却未能有效限制它们。
AI资讯埃隆·马斯克作证称创立OpenAI是为防止“终结者式结局”
在埃隆·马斯克针对山姆·奥特曼提起的诉讼审判中，案件可能导致OpenAI面临经济赔偿，更重要的是可能引发治理结构的变动，这将影响其今年内进行首次公开募股（IPO）的计划。 作为首位出庭作证的证人，马斯克立即将案件定位为不仅仅是关于OpenAI的问题。他告诉由九名陪审员组成的小组，这些陪审员正协助美国地方法官伊冯娜·冈萨雷斯·罗杰斯做出裁决，支持奥特曼将“纵容美国所有慈善机构被掠夺”，并动摇“整个慈
AI资讯Claude助力黑客发现几乎所有美国音乐节门票发行漏洞
安全研究员伊恩·卡罗尔（Ian Carroll）在今年4月利用AI工具Claude Opus 4.7，发现了一种技术漏洞，使他能够完全访问Front Gate Tickets的系统。Front Gate Tickets负责几乎所有美国主要音乐节的票务工作，包括Lollapalooza、South by Southwest和Austin City Limits等。卡罗尔发现，这家与Ticketmas