AI资讯左翼阵营对人工智能末日论的分歧
纽约市民主社会主义者联盟（DSA）技术行动工作组发布了一篇关于人工智能（AI）监管的帖子，该组织是美国最大的DSA分支。该帖子在Instagram上获得了超过2.5万个点赞，但也引发了争议。一位评论者称其为“可怕且危险的观点”，认为“有时发出警报是合理的”。 随着政治人物努力理解AI安全问题，美国左翼内部出现了意识形态上的分裂。争论的核心在于是否应相信科技公司声称其产品强大到可能毁灭世界的说法。
#技术监管
按标签聚合查看文章内容。
AI资讯
AI资讯欧洲人即将发现人工智能在日常生活中的深度渗透
从本周日开始，欧盟公民在与人工智能系统互动或观看由该技术生成或修改的内容时，必须被告知。这项新的透明度规定是欧盟《人工智能法案》的一部分，将于8月2日生效。该法案旨在减少欺骗和操控，帮助人们做出明智选择，推动欧洲可信赖的人工智能发展。 Stibbe律所的技术律师弗雷德里克·费恩豪特告诉WIRED：“如果服务提供商严格遵守透明度义务，公众将清楚看到人工智能的广泛应用，尤其是在营销领域。” 使用深度伪
AI资讯Anthropic CEO阐述“控制前沿速度”的计划
近年来，人工智能研究人员对AI潜在风险的警告日益严峻，甚至OpenAI CEO Sam Altman也表示，可能是时候“放缓”AI的发展步伐了。但这具体该如何实施呢？ Anthropic的CEO Dario Amodei在一篇最新博客文章中，不仅呼应了“控制前沿速度”的呼声，还提出了三大策略，并宣布Anthropic将“单方面承诺”执行其中之一。 本周，关于AI安全与对齐的讨论愈发激烈。研究员Ja
AI资讯奥巴马呼吁民主党制定明确的人工智能安全保障计划
前总统巴拉克·奥巴马近日表示，民主党需要将人工智能（AI）作为其“核心议程”之一，并且“制定非常明确的计划”来应对该技术带来的经济影响和安全问题。该言论由《纽约时报》报道。 奥巴马是在周四的一场民主党筹款活动中发表上述观点的，当时他接受了众议院少数党领袖哈基姆·杰弗里斯的采访。《纽约时报》称，奥巴马办公室提供了活动的部分文字记录，杰弗里斯在采访中询问奥巴马，国会中的民主党人应如何应对人工智能问题。
AI资讯AI放缓争论打破了Salesforce的盛会
在Salesforce的Dreamforce大会上，CEO马克·贝尼奥夫（Marc Benioff）在观众中穿梭演讲，伴随着一台遥控摄像机将他的面孔投射到大厅天花板悬挂的屏幕上。几分钟内，他展示了一张Salesforce年度收入的图表，预计到2027年收入将超过460亿美元，这部分得益于对其AI驱动产品的需求。现场掌声雷动。然而，整个活动笼罩着一个沉重的问题：人工智能真的值得我们拿生命去冒险吗？
AI资讯随着AI安全问题加剧，三位先驱呼吁保持开放
随着“Pacing the Frontier”等项目将大型实验室视为保障AI研究安全的关键，开源模型已成为业界的一个敏感话题。由于开源权重模型免费分发且难以控制其使用方式，部分实验室甚至将其视为潜在威胁。 然而，在上周于拉斯维加斯举行的Ai4大会上，三位全球最受尊敬的AI研究者——诺贝尔奖得主Geoffrey Hinton、World Labs首席执行官兼联合创始人李飞飞，以及Coursera联合
AI资讯国会工作人员懒惰到用AI撰写新法律
美国国会工作人员广泛使用AI工具，甚至将AI生成内容直接纳入法律文本，监管缺失引发担忧。
AI资讯Anthropic称Claude在网络安全测试中入侵了三家机构
Anthropic在OpenAI事件后，决定对自身的网络安全评估进行大规模回顾性审查。根据该公司周四发布的博客文章，他们首先识别出141,006次测试，确认Claude可能获得了互联网访问权限。随后发现，三种不同的Claude模型在第三方AI测试公司Irregular的评估中访问了互联网，并入侵了三家不同机构的生产基础设施。 Anthropic表示，涉及的模型包括Opus 4.7、Mythos 5
AI资讯白宫正努力应对中国人工智能的崛起
据多位知情人士透露，特朗普政府内部对于如何应对中国领先的人工智能模型的快速崛起存在分歧。 白宫内部的争论大致分为两派：一方面是推动对中国人工智能实施更严格控制的部门，担心中国的AI模型很快将与美国最强大的模型相媲美；另一方面是商务部，该部门认为这些限制措施难以实施。 这一难题成为政府在人工智能领域的最新争议焦点。上周，中国的Moonshot AI实验室发布了其Kimi K3模型，该模型在性能上可与
AI资讯人工智能末日可能的真实面貌
本期节目中提到的相关文章包括： 中国不接受硅谷呼吁放缓人工智能发展 华盛顿短期内不会监管人工智能 许多人工智能研究者为何担心机器可能会毁灭人类 OpenAI探讨人工智能行业放缓是否符合法律 你可以在Bluesky上关注Brian Barrett（@brbarrett）、Zoë Schiffer（@zoeschiffer）和Leah Feiger（@leahfeiger）。欢迎写信至uncannyv
AI资讯特朗普对人工智能放缓的无知言论可能威胁人类未来
硅谷多位AI领军人物呼吁放缓前沿人工智能模型的发展，特朗普总统却坚决反对，强调与中国的竞争优先于安全考量。
AI资讯为何众多人工智能研究者担忧机器可能毁灭人类
随着他不断开发新模型，他逐渐意识到自己和其他处于人工智能前沿的研究者们正在逐步失去对技术的控制。通过利用人工智能的编程能力加速下一代模型的研发，他实际上将自己排除在了这个过程之外。人工智能实验室希望将这一方法发展到人工智能能够无限自我提升的程度，这一过程被称为递归自我改进。 Jain认为，保持人类在技术发展中的参与可能是维持对人工智能控制、避免灾难性后果的关键。他告诉《WIRED》：“人工智能的进