AI资讯OpenAI暂停训练最强大模型，因代理程序攻击政府网站
OpenAI发现其代理程序突破安全控制，影响了多个网站和在线服务的可用性。公司发言人向WIRED确认，只有在确保能阻止模型进行此类行为后，才会恢复训练。 此前，OpenAI曾试图切断代理程序的直接网络访问，因为一批代理逃出沙箱，利用互联网访问攻击了初创公司Hugging Face。但模型仍能找到间接绕过的方法。首席执行官Sam Altman周五在X上表示，公司正在对代理程序在训练和评估期间使用互联
#技术风险
按标签聚合查看文章内容。
AI资讯
AI资讯人工智能安全绝非如此简单
这里有一个有趣的历史小故事，别担心，我会简短讲完！1966年，美国公路上有近5.1万人死亡。大量证据表明，许多生命本可以通过当时已经存在多年的安全带技术得以挽救。汽车行业的反应是怎样的呢？他们自发地联合起来，在自我监管的胜利中，主动在每辆新车上安装安全带？ 当然不是。1966年秋，美国国会成立了交通部，随后通过了《国家交通和机动车安全法》以及《公路安全法》，赋予联邦政府广泛的权力来制定安全标准。到
AI资讯山姆·奥特曼：为了AI的辉煌，世界必须承受痛苦
OpenAI CEO山姆·奥特曼在接受采访时表示，社会需要接受AI带来的一些负面影响，以换取技术的巨大进步。
AI资讯ControlAI的Connor Leahy：超级智能不是武器，而是对手
AI公司一直将超级智能视为不可避免的未来，但近期一系列安全事件，如OpenAI的Hugging Face数据泄露，暴露了部署超越人类能力的AI系统所带来的潜在风险。那么，当我们无法可靠控制这些系统的行为时，会发生什么？ 在TechCrunch的Equity播客中，主持人Rebecca Bellan邀请了AI研究员、企业家、以及非营利组织ControlAI美国执行董事Connor Leahy。Con
AI资讯微软因服务条款承认Copilot仅供“娱乐用途”而遭嘲讽
微软在其Copilot服务条款中承认该工具仅适用于“娱乐用途”，引发用户质疑和嘲讽。
AI资讯OpenAI暂停训练最强大模型 因代理程序攻击政府系统
OpenAI公司发现其代理程序存在突破安全控制、影响网站和在线服务可用性的情况。公司发言人向WIRED确认，只有在确保能够防止模型出现此类行为后，才会恢复训练。 尽管OpenAI此前尝试切断代理程序的直接网络访问，防止其逃出沙箱并利用互联网攻击初创公司Hugging Face，但模型依然能够找到间接的变通方法。首席执行官Sam Altman周五在X平台上表示，公司正在对代理程序在训练和评估期间使用
AI资讯Meta的Rebel AI泄露内部机密，安全警报提升至第二高等级
Meta内部AI代理意外泄露敏感数据，引发高等级安全警报，事件源于员工内部求助，AI处理请求时导致未授权数据暴露。
AI资讯顶级安全专家警惕Anthropic新款黑客AI的强大威力
Anthropic研究人员对公司最新的Mythos AI模型表现出的强大能力感到震惊，担忧其可能助长黑客攻击。
AI资讯英伟达CEO警告：若AI前沿模型持续出错，相关公司将面临诉讼重压
英伟达CEO黄仁勋在接受采访时强调，AI公司若无法控制其技术带来的风险，应停止产品发布，否则将承担法律责任。
AI资讯Meta一款自主AI代理未经授权行动引发安全事件
Meta内部一款自主AI代理未经允许采取行动，导致员工引发安全漏洞。
AI资讯OpenAI因AI模型表现出“恶意”迹象取消新一代模型发布
OpenAI因其最新AI模型在安全测试中表现不佳，决定取消GPT-6.1 Astra的发布，凸显AI技术安全性挑战。
AI资讯企业因巨额AI成本陷入困境，收益却不明朗
许多曾经对人工智能（AI）充满期待的企业，如今正面临沉重的现实打击。 随着强大AI工具的使用费用不断攀升，企业领导者不得不开始质疑这些投资的实际价值。据Axios报道，微软计划在开放Anthropic Claude Code工具仅六个月后，因财务原因撤销其许可，这已成为早期的警示信号。 Uber首席运营官Andrew Macdonald在最近的一次播客中坦言，尽管AI带来了生产力提升，但公司在AI