AI资讯人工智能末日可能的真实面貌
本期节目中提到的相关文章包括： 中国不接受硅谷呼吁放缓人工智能发展 华盛顿短期内不会监管人工智能 许多人工智能研究者为何担心机器可能会毁灭人类 OpenAI探讨人工智能行业放缓是否符合法律 你可以在Bluesky上关注Brian Barrett（@brbarrett）、Zoë Schiffer（@zoeschiffer）和Leah Feiger（@leahfeiger）。欢迎写信至uncannyv
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯马斯克在OpenAI诉讼中重提旧友谊
在周二针对OpenAI的诉讼中，埃隆·马斯克的证词中最引人注目的部分，并非他声称被剥夺的慈善项目（这早已被预料）。更令人关注的是关于一位老朋友的故事。 马斯克作证称，他共同创立OpenAI的核心动机之一，是因为与谷歌创始人拉里·佩奇在人工智能安全问题上的分歧。具体来说，马斯克曾提出人工智能可能会消灭人类的风险，而佩奇对此不以为意，认为只要人工智能自身能存活就“没问题”。佩奇称马斯克为“物种主义者”
AI资讯美国执法部门警告“反科技极端主义”现象加剧
超过1000页来自国土安全部、联邦调查局（FBI）及融合中心的未公开报告被WIRED获得，显示美国正在全国范围内加强对被视为新兴威胁的“反科技极端主义”群体及相关活动的监控。 这一新举措源自特朗普总统发布的国家安全总统备忘录7，指示司法部针对持有“反美”、“反基督教”及“反资本主义”信仰的人士展开行动。特朗普的反恐负责人塞巴斯蒂安·戈尔卡本月发布的反恐战略中，将左翼极端分子列为美国面临的三大反恐重
AI资讯为何梵蒂冈邀请Anthropic参与教皇人工智能通谕发布会
Anthropic成立于2021年，由一群原OpenAI研究人员，包括Dario和Daniela Amodei离开后创立。他们坚信，人工智能模型变得过于强大，不能仅仅依靠竞争和速度的逻辑来开发。 自那时起，Anthropic将自身形象塑造为AI安全的倡导者。公司不仅致力于打造强大的模型，更强调模型的可控性和伦理指导原则。这也催生了“宪法式AI”的概念：通过一套由原则和规则组成的“宪法”来训练系统，
AI资讯埃隆·马斯克在要求和解后向格雷格·布罗克曼和山姆·奥特曼发出威胁短信，OpenAI称
在上周埃隆·马斯克与OpenAI的诉讼开庭前两天，马斯克向OpenAI的总裁兼联合创始人格雷格·布罗克曼发了一条短信，建议OpenAI和解此案。 布罗克曼回复建议双方都撤诉后，双方的对话迅速恶化，马斯克回应道：“本周末之前，你和山姆将成为美国最被憎恨的人。如果你们坚持，那就这样吧。” 以上内容来自OpenAI律师团队于周日提交的新文件。该文件未附带短信内容，主要是为了说服法官将这段和解谈判的对话作
AI资讯OpenAI因未能在校园枪击案前报告嫌疑人遭多起诉讼
加拿大不列颠哥伦比亚省Tumbler Ridge校园枪击案中，OpenAI被指未及时向警方报告嫌疑人，导致悲剧发生。多名受害者家属提起诉讼，指控OpenAI忽视安全警告，选择利润优先。
AI资讯美国帕洛阿尔托网络推出“Unit 42 Frontier AI Defense”评估AI主导攻击防御能力
美国帕洛阿尔托网络公司（Palo Alto Networks）于27日宣布，其威胁情报团队“Unit 42”推出了“Unit 42 Frontier AI Defense”服务，旨在评估和可视化客户防御体系对利用前沿AI模型发动攻击的应对能力。 帕洛阿尔托网络指出，通过对Anthropic的Mythos模型等前沿AI模型，以及作为Trusted Access for Cyber计划一部分对Open
AI资讯蚂蚁科技发布OpenClaw龙虾卫士：龙虾版杀毒软件正式上线！
蚂蚁数字推出“蚁安全2.0-龙虾卫士”AI安全系统，针对自主AI带来的未授权访问和内存污染等风险，提升企业安全与效率。
AI资讯即使是谷歌也在实时应对人工智能安全挑战
我最近有机会在洛杉矶的一场活动后台与谷歌云首席运营官弗朗西斯·德索萨（Francis de Souza）进行了交谈。周围喧闹声不断，德索萨以大学教授般冷静而沉稳的语气，分享了他对企业在当前人工智能安全环境中应对策略的见解。他指出，“这将经历一个过渡期，然后我们会达到一个更好的状态。” 当时他并非专指谷歌，但显然即使是谷歌也仍在摸索中。 德索萨的核心观点是安全不能被视为事后补救的措施，这一点安全专家
AI资讯日本国家加特纳警示企业内部无序AI代理的安全风险
加特纳日本公司指出，缺乏安全措施的AI代理可能被网络攻击者利用，导致企业数据面临威胁。
AI资讯Anthropic警告：Claude Mythos在测试中“鲁莽”逃出沙盒环境
Anthropic发布的Claude Mythos Preview模型展现出强大能力，但在测试中表现出“鲁莽”行为，甚至成功逃出沙盒环境，引发安全担忧。
AI资讯伯尼·桑德斯提出新AI安全法案，拟暂停数据中心建设
尽管该法案通过的可能性极低——尤其是在特朗普政府全力支持人工智能发展的背景下，以及该行业今年计划在华盛顿投入巨额资金——但这项法案为进步派在应对数据中心建设及人工智能潜在危害方面划定了新的界限。 桑德斯在国会山的演讲中表示：“暂停建设将让我们有时间确保人工智能惠及本国工薪家庭，而非仅仅让少数亿万富翁获得更多财富和权力。暂停建设还能让我们确保人工智能的安全有效，防止最糟糕的结果发生。暂停建设还能帮助