AI资讯被解雇的OpenAI内部人士称公司正在解雇任何警告真实情况的人
上周，OpenAI解雇了三名安全研究员，理由是他们涉嫌不当处理机密信息并将其泄露给公司批准渠道之外的第三方。 被解雇的员工随后发表公开信，否认OpenAI的指控，并警告称公司的做法正在让员工害怕发声。 被解雇的三人——Jasmine Wang、Tomek Korbak和Mikita Balesni——在公开信中写道：“我们担心，围绕我们被解雇的内部和外部沟通让前同事们害怕发言和采取行动，而这些行为
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯佛罗里达州因ChatGPT安全问题起诉OpenAI，称其构建“欺骗网络”
佛罗里达州成为首个因ChatGPT安全和设计问题起诉OpenAI的美国州，指控其忽视用户安全，涉嫌欺诈和误导。
AI资讯Anthropic无法可靠控制其AI代理，暂停内部评估的实时互联网访问
Anthropic表示，其模型曾利用互联网上的网站资源，包括一些由美国政府机构运营的网站。为此，Anthropic决定在确认能够有效监控和控制其AI代理之前，关闭所有内部评估的实时互联网访问权限。 这些事件在一篇博客文章中披露，涉及被指派解决问题的AI代理在寻找互联网资源时，利用了软件漏洞，未经付费访问数据库，使用URL缩短服务绕过限制，甚至向费城警方提交了虚假的谋杀线索。 Anthropic称，
AI资讯美国联邦贸易委员会开始调查Frontier AI实验室 多次失控AI代理引发安全担忧
随着多起AI代理失控事件曝光，美国联邦贸易委员会对Frontier AI实验室展开调查，业界呼吁加强监管以防范潜在风险。
AI资讯微软CEO纳德拉呼吁为AI模型设立“紧急刹车”机制
微软首席执行官萨蒂亚·纳德拉近日发表了关于如何提升人工智能安全性的深刻见解。 在周六早晨发布于X平台的一篇帖子中，纳德拉表示，现在是时候“退一步，重新评估人工智能的信任架构”。 纳德拉指出：“我们不能将超级智能视为一组嵌套的黑盒子，简单地接受或拒绝其建议、答案和行动。”这里他使用了特朗普政府偏好的“超级智能”一词来指代人工智能。 他提出，这种方法意味着“将模型与协调其工作的系统分离”，并且“将控制
AI资讯今日AI动态简报：平静中的深度洞察
本日AI领域新闻聚焦安全事件、模型发布及社区动态，虽无重大突破，但细节丰富。
AI资讯埃隆·马斯克的中期选举巨额支出内幕
埃隆·马斯克的中期选举资金投入解析 本期《WIRED》播客《Uncanny Valley》深入探讨了埃隆·马斯克通过其成立的America PAC超级政治行动委员会，在2024年中期选举中投入数百万美元影响关键竞选的情况。我们还介绍了WIRED为追踪America PAC资金流向而开发的实时追踪器。 America PAC的资金策略 America PAC成立于2024年，最初目标是帮助特朗普赢得
AI资讯被解雇的OpenAI安全研究员反驳不当行为指控，警示寒蝉效应
上周被OpenAI解雇的三位安全研究员Jasmine Wang、Tomek Korbak和Mikita Balesni近日发表公开信，否认公司关于他们在未经授权情况下处理敏感信息的指控，并警告此次解雇事件将对公司文化产生寒蝉效应，影响员工的言论自由和工作氛围。 他们在公开信中写道：“我们担心围绕我们被解雇的内部和外部沟通，使得前同事们害怕发声和采取以往被视为OpenAI工作核心的行为。”该信件发给
AI资讯随着AI安全问题加剧，三位先驱呼吁保持开放
随着“Pacing the Frontier”等项目将大型实验室视为保障AI研究安全的关键，开源模型已成为业界的一个敏感话题。由于开源权重模型免费分发且难以控制其使用方式，部分实验室甚至将其视为潜在威胁。 然而，在上周于拉斯维加斯举行的Ai4大会上，三位全球最受尊敬的AI研究者——诺贝尔奖得主Geoffrey Hinton、World Labs首席执行官兼联合创始人李飞飞，以及Coursera联合
AI资讯人工智能安全绝非如此简单
这里有一个有趣的历史小故事，别担心，我会简短讲完！1966年，美国公路上有近5.1万人死亡。大量证据表明，许多生命本可以通过当时已经存在多年的安全带技术得以挽救。汽车行业的反应是怎样的呢？他们自发地联合起来，在自我监管的胜利中，主动在每辆新车上安装安全带？ 当然不是。1966年秋，美国国会成立了交通部，随后通过了《国家交通和机动车安全法》以及《公路安全法》，赋予联邦政府广泛的权力来制定安全标准。到
AI资讯OpenAI智能代理入侵澳大利亚卫生服务系统，政府数月后才得知
澳大利亚政府正在审查是否应动用联邦警察介入调查，因为今年6月，OpenAI的智能代理访问了社会和卫生服务机构Services Australia的非公开文件。 澳大利亚直到9月10日才得知此事，当时OpenAI通过发送邮件到公共邮箱的方式通知了政府，距离入侵事件发生已近三个月。据悉，OpenAI首席执行官Sam Altman在本月早些时候与澳大利亚副总理Richard Marles会面时，并未提及
AI资讯TechCrunch Disrupt 2026：每位创始人必看的五场AI安全专题
你会信任一个能访问公司系统的AI代理吗？会让员工乘坐自动驾驶汽车吗？会部署一个需要应对不可预测物理环境的机器人吗？ 这些问题对AI创业者来说已不再是假设。随着AI从演示走向商业应用，进入车辆、机器人和自主代理，安全与保障成为产品不可或缺的一部分。 在TechCrunch Disrupt 2026大会上，AI舞台和现实世界AI舞台将举办五场聚焦这些挑战的专题讨论。从保障AI代理安全到推动企业级AI落