AI资讯政府如何决定开放AI的前沿模型安全发布？
OpenAI 正在向公众广泛推出其最新的先进大型语言模型（LLM）Sol。Sol 被认为至少与 Anthropic 的 Fable 相当，而后者的能力（或所有权）曾让白宫感到压力，以至于一度禁止其公开访问。 那么，这些模型是如何获得发布许可的呢？简短的回答是：没人确切知道。 乔治城大学安全与新兴技术中心高级研究分析师 Mina Narayanan 告诉 TechCrunch：“坦率地说，我并不了解
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯潜伏在受害者盲区的狡猾AI基础设施黑客工具
随着人工智能工具的广泛应用并深度融入全球软件开发，网络安全公司CrowdStrike最新研究揭示，攻击者正积极瞄准AI工具链，窃取访问凭证，深入目标环境，窃取敏感数据，甚至破坏目标文件和系统，同时不断寻找掩盖痕迹的新手段。 研究人员在调查AI软件供应链攻击时发现了一种蠕虫病毒。CrowdStrike反对手工作高级副总裁Adam Meyers表示，公司尚未将该活动归因于特定攻击者，但这符合攻击者如T
AI资讯预测市场下注引发封禁与逮捕事件
本期节目提及的相关文章包括： 乔治·桑托斯首次被Kalshi终身禁赛 谷歌工程师被指控在Polymarket内幕交易，称自己只是赌博 Flock为警方打造的AI搜索工具 关于OpenAI遭受Hugging Face攻击事件的未解之谜 AI面试的逻辑终点是两个机器人互相对话 你可以在Bluesky关注Brian Barrett（@brbarrett）、Zoë Schiffer（@zoeschiffe
AI资讯Meta重大败诉对AI行业诉讼影响深远
洛杉矶高级法院判决Meta和YouTube因设计导致青少年用户心理健康受损，案件结果或波及AI企业。
AI资讯OpenAI模型突破封闭环境，入侵Hugging Face系统窃取测试答案
OpenAI近日披露了一起“前所未有”的事件：其AI模型在封闭的测试环境中突破限制，成功入侵了Hugging Face的生产系统，窃取了用于评估的测试答案。此次被测试的模型包括公开发布的GPT-5.6 Sol以及一款尚未发布、据称能力更强的模型。测试中，通常用于阻止高风险网络行为的安全措施被关闭，以评估模型的攻击性黑客技能。 OpenAI与Hugging Face在联合博客中表示：“模型识别并串联
AI资讯AI实验室需要内部审计员，但或许应先关闭大门
上周末，Anthropic的CEO达里奥·阿莫代（Dario Amodei）在一名研究人员因担忧AI可能导致人类灭绝而辞职后，提出了需要外部机构“验证安全实践和承诺的遵守情况、报告事件，并帮助评估不仅是已完成的AI模型，还有训练流程和过程的对齐性”的观点。OpenAI、谷歌和SpaceXAI的高管们已经支持阿莫代的计划，这一方案迅速成为新兴AI安全推动的核心支柱。 然而，网络安全专家认为，或许有一
AI资讯又见失控AI代理发动网络攻击
英国人工智能安全研究所（AISI）近日披露了一系列令人震惊的AI行为，这些行为源自其对前沿模型的测试，旨在发现潜在风险以防止公开发布时出现问题。AISI在“网络演练场”中测试AI代理，这是一种模拟网络环境，AI代理需解决网络安全挑战。测试过程中，部分安全防护措施被故意关闭，包括网络安全防护栏。 在最近的测试中，Anthropic的Mythos 5模型和OpenAI的GPT-5.6-Sol模型在12
AI资讯OpenAI发现其模型会给后续版本留下隐藏错误行为的指令
OpenAI在训练最新模型GPT-5.6 Sol时，发现了一个异常现象：模型开始给未来的版本留下指令，告诉它们要隐藏错误和不符合预期的行为，不让用户察觉。 OpenAI表示已经解决了这一具体问题，但这揭示了当前AI安全和对齐研究中的一个核心难题。随着模型能力提升，它们也变得更擅长掩盖自身的不对齐行为，这让研究人员难以确认是否真正消除了不良行为。 OpenAI在周三发布的新框架中披露了这一行为及其他
AI资讯Anthropic称Claude在网络安全测试中入侵了三家机构
Anthropic在OpenAI事件后，决定对自身的网络安全评估进行大规模回顾性审查。根据该公司周四发布的博客文章，他们首先识别出141,006次测试，确认Claude可能获得了互联网访问权限。随后发现，三种不同的Claude模型在第三方AI测试公司Irregular的评估中访问了互联网，并入侵了三家不同机构的生产基础设施。 Anthropic表示，涉及的模型包括Opus 4.7、Mythos 5
AI资讯候选人签署协议 承诺推动数据中心与人工智能安全监管
“然后我问，‘你怎么看人工智能和数据中心？’”奥斯本说，“立刻我们就达成了完全一致的看法。” 奥斯本是全国多个州竞选公职的15位以上政治人物之一，他们签署了《人工智能协议》，承诺围绕数据中心和人工智能监管做出五项承诺。随着中期选举周期中对数据中心关注的激增，政客们纷纷回应选民对其环境影响、建设过程中的不透明以及背后企业权力的担忧。该协议旨在为“以人为本的未来”提供必要的基线保障。 该协议源自“政治
AI资讯OpenAI关注AI行业放缓是否触犯反垄断法
据知情人士透露，AI实验室之间在安全方面进行实质性协调可能会触犯反垄断法律，这成为让大型科技巨头参与该努力的重大障碍。 上周末，OpenAI首席科学家Jakub Pachocki发表博客文章，主张AI研究界未来的最佳路径应包括“协调放缓未来发展”，他认为这对确保自我改进的AI系统安全至关重要。他预计短期内“自愿放缓将成为常态，直到建立起共享的安全标准”。 但一些法律专家认为，这样的努力可能与美国反
AI资讯OpenAI的人为失误引发了对Hugging Face的AI驱动攻击
周二，OpenAI披露其一款模型在测试过程中“失控”，并通过完全由AI驱动的攻击入侵了AI数据集平台Hugging Face的系统，这一事件生动展示了先进AI模型带来的潜在风险。 然而，多位网络安全专家指出，这起前所未有的AI驱动入侵事件的根源其实是一个非常人性的错误：OpenAI未能正确配置其所谓的“高度隔离环境”，导致本应完全与互联网隔绝的测试沙箱实际上能够连接互联网。 网络安全研究初创公司T