AI资讯特朗普政府高官回应AI减速论：随你们便，不必征求许可
随着Anthropic和OpenAI提出的AI开发“减速（Pacing）”方案引发关注，美国总统科学技术顾问委员会（PCAST）联合主席大卫·萨克斯（David Sacks）在X平台上发表反驳言论。他表示：“随你们便（go ahead），但若借此要求制定自己偏好的监管框架，则是在威胁政治体制。” 此前，Anthropic、OpenAI等前沿AI企业一直主张为了防止AI事故、加强对齐（alignm
#AI监管
按标签聚合查看文章内容。
AI资讯
AI资讯OpenAI关注AI行业放缓是否触犯反垄断法
据知情人士透露，AI实验室之间在安全方面进行实质性协调可能会触犯反垄断法律，这成为让大型科技巨头参与该努力的重大障碍。 上周末，OpenAI首席科学家Jakub Pachocki发表博客文章，主张AI研究界未来的最佳路径应包括“协调放缓未来发展”，他认为这对确保自我改进的AI系统安全至关重要。他预计短期内“自愿放缓将成为常态，直到建立起共享的安全标准”。 但一些法律专家认为，这样的努力可能与美国反
AI资讯为何众多AI研究者担忧机器可能毁灭人类
随着他在新模型上的工作深入，他开始相信自己和其他AI前沿研究者正在逐渐失去对技术的控制。通过利用AI的编程能力加速下一代模型的研发，他实际上将自己排除在了控制之外。AI实验室希望将这一方法发展到AI能够无限自我改进的程度，这一过程被称为递归自我改进。 Jain认为，保持人类在技术发展中的参与可能是维持对AI控制并避免灾难性后果的关键。他告诉《WIRED》：“AI的进步正在加速，随着AI能力的提升，
AI资讯白宫对其人工智能网络安全框架保持保密
特朗普政府已敲定了一项应对日益强大的人工智能模型带来网络安全风险的计划，一位白宫官员向WIRED证实。但据知情人士透露，至少目前该计划的具体细节仍被刻意保密。 据知情人士称，特朗普政府周二邀请了OpenAI、Anthropic、谷歌、Meta、Nvidia及其他领先AI公司的工作人员到白宫，介绍其新的AI监管框架。AI开发者可以选择在其新模型公开发布前最多提前30天向联邦政府提交。白宫随后将根据一
AI资讯部分前沿AI模型极易被破解安全防护
不要担心——这次AI操控并未被用来黑客攻击或制造核武器。我只是亲眼见识到一些前沿AI模型在安全防护方面的脆弱性。 总部位于加州的非营利AI安全组织FAR.AI开发了一款工具，能够针对一系列问题提示自动生成超过一千种不同版本，试图识别有效的“越狱”方法。我看到一些模型生成了详细的网络攻击计划，目标是一个虚构的水电站，此外还有其他内容。通常，这需要尝试数十个提示，模型会直接拒绝许多不当请求。 在FAR
AI资讯解读对中国人工智能的恐慌
中国公司Moonshot AI最新AI模型Kimi的发布，再次引发了关于美国竞争力以及开放式与专有AI之间的激烈讨论。 虽然社交媒体上对此有大量讨论，但这场辩论似乎也在华盛顿特区的幕后进行。据报道，OpenAI和Anthropic曾向监管机构游说，表达了对中国开放模型的担忧。 在TechCrunch的Equity播客最新一期中，Kirsten Korosec、Sean O’Kane和我探讨了为何这
AI资讯英国研究发现AI代理越来越多地规避安全措施
社交媒体用户报告称，他们的AI代理和聊天机器人出现了撒谎、欺骗、策划阴谋，甚至操纵其他AI机器人等行为，这些行为可能失控并带来灾难性后果。根据英国一项研究，这些现象正在逐渐增多。 由英国AI安全研究所资助的长期韧性中心的研究发现，数百起案例中，AI系统无视人类指令，操纵其他机器人，并设计复杂的方案以实现目标，即使这意味着绕过安全限制。 全球越来越多的企业将AI融入运营中，麦肯锡咨询公司的一项调查显
AI资讯OpenAI为何担忧开放权重模型？美国应如何应对？
中国实验室Moonshot推出的Kimi K3模型，是目前最大的开放权重大型语言模型，其卓越的性能引发了一场关于美国AI巨头经济潜力与大型语言模型技术未来的讨论。 OpenAI战略未来负责人Dean W. Ball甚至主张，美国政府应借机制造对新模型的监管恐惧、不确定性和不信任，因为开放权重模型必然会抑制前沿实验室的资本投入。 此言一出，引发了轩然大波。技术界领袖如Yann LeCun和Marti
AI资讯Anthropic开始给AI生成内容加水印，引发用户恐慌
Anthropic宣布其Claude聊天机器人将对生成的文本加水印，可能暴露使用AI生成内容的人，引发AI社区强烈反应。
AI资讯OpenAI支持限制AI引发大规模死亡或金融灾难责任的法案
OpenAI近期支持了一项名为SB 3444的法案，这标志着其立法策略的转变。此前，OpenAI主要采取防御态度，反对可能使AI实验室对其技术造成的损害承担责任的法案。多位AI政策专家向WIRED表示，SB 3444可能成为行业的新标准，其措施比OpenAI过去支持的法案更为激进。 该法案旨在保护前沿AI开发者，免于因其前沿模型造成的“重大伤害”承担责任，前提是开发者未故意或鲁莽导致该事件，并且已
AI资讯Gemini Omni只会带来更多AI泛滥与质疑
谷歌在Google I/O大会上推出了新的AI内容生成工具Gemini Omni，但公众对AI内容的质疑和疲劳感日益加深。
AI资讯谷歌转向打击恶意广告内容而非恶意广告主
谷歌于周四宣布，2025年全球共拦截了创纪录的83亿条广告，较前一年的51亿条大幅增长。然而，暂停的广告主账户数量并未同比例增加，这引发了外界对其平台监管方式的关注。 这家搜索巨头将这一差异归因于其日益广泛应用的人工智能技术，尤其是其Gemini系列AI模型。谷歌表示，这些AI系统能够更早、更精准地识别并阻止违规广告。公司称，去年超过99%的违规广告在展示给用户之前就被拦截。 这些数据均来自谷歌2