AI资讯如何真正实现对人工智能发展的放缓监管
许多人工智能研究人员坚信，他们正在开发的技术未来可能带来极大危险。然而，即使在AI技术精英中，如何有效控制这些难以预测的算法依然没有明确答案。 近年来，研究者们提出了各种防止AI失控的方案，包括较为温和的加强政府监管、改进进展评估方法、深入探查模型内部机制等，也有更为激进的建议，比如在GPU中安装追踪设备，甚至象征性地销毁大量AI芯片。 随着政治和公众对AI建设采取更审慎态度的呼声日益高涨，如何确
#国际合作
按标签聚合查看文章内容。
AI资讯
AI资讯Anthropic CEO阐述“控制前沿速度”的计划
近年来，人工智能研究人员对AI潜在风险的警告日益严峻，甚至OpenAI CEO Sam Altman也表示，可能是时候“放缓”AI的发展步伐了。但这具体该如何实施呢？ Anthropic的CEO Dario Amodei在一篇最新博客文章中，不仅呼应了“控制前沿速度”的呼声，还提出了三大策略，并宣布Anthropic将“单方面承诺”执行其中之一。 本周，关于AI安全与对齐的讨论愈发激烈。研究员Ja
AI资讯中国不接受硅谷呼吁放缓人工智能发展的主张
Anthropic公司CEO达里奥·阿莫代（Dario Amodei）在周六发表的博客文章《我们必须放缓前沿技术》中写道：“全球步调的协调需要与中国合作，而中国是一个拥有迄今为止最先进人工智能能力的专制国家。” 然而，中国政府和人工智能企业对阿莫代的提议持深刻怀疑态度，这并非因为他们想盲目竞速，也不是不认为人工智能存在严重风险。中国方面认为问题非常简单——他们觉得自己被提出了一个不公平的条件。 技
AI资讯Anthropic创始人Dario Amodei回应：不反对开放权重模型，但担忧中国AI发展
Anthropic的创始人兼CEO Dario Amodei于周一下午回应了业界关于其公司支持美国政府禁止开放权重中国模型，或甚至禁止所有开放权重模型的传闻。 他明确表示：“任何读过我过去文章的人都应该知道，我并不认为此类禁令是有效的措施，但我想明确说明：Anthropic从未主张禁止开放权重模型。” 此次回应是在Nvidia创始人兼CEO黄仁勋首次在X平台发帖后作出的。黄仁勋在帖子中分享了一封公
AI资讯机器人狗、特斯拉与救援直升机：联合国人工智能峰会精彩纷呈
这是由联合国国际电信联盟（ITU）主办的“人工智能为善”峰会，汇聚了来自公共和私营部门的代表，共同探讨如何将人工智能技术用于造福人类，而非带来负面影响。 当硅谷高管和人工智能实验室负责人在华盛顿向立法者陈述超级智能的风险，白宫对芯片实施出口管制时，已经举办第十届的联合国“人工智能为善”峰会则聚焦于更理想主义的目标。 ITU秘书长多琳·博格丹-马丁在大会主舞台的主题演讲中表示：“我们坚信，负责任地部
AI资讯Mistral完成30亿欧元融资，主权AI成为新兴大产业
法国人工智能实验室Mistral AI于周二宣布完成30亿欧元（约合35.8亿美元）的融资，融资后估值超过210亿欧元（约合243.9亿美元），证实了此前的传闻。这轮D轮融资被称为“欧洲科技公司有史以来最大规模的股权融资”，由三星电子领投，EQT管理的Scaleup Europe基金和现有投资者PSG Equity共同参与。 Mistral表示，融资资金将用于扩大计算能力、建设基础设施、加速商业增
AI资讯Anthropic披露阻止外国势力利用Claude开发潜在生物武器
Anthropic公司近日透露，他们成功阻止了多起外国科学家利用其AI代理Claude开发可能的生物武器的行为，《纽约时报》对此进行了报道。 这则令人震惊的消息来自Anthropic周四发布的一份详尽报告。该报告发布之际，正值AI安全问题备受关注，尤其是在一名前Anthropic员工指责公司明知其强大AI系统具有破坏性却仍不负责任地开发之后。 报告指出，尽管Anthropic在多个国家限制了其模型
AI资讯ControlAI的Connor Leahy：超级智能不是武器，而是对手
AI公司一直将超级智能视为不可避免的未来，但近期一系列安全事件，如OpenAI的Hugging Face数据泄露，暴露了部署超越人类能力的AI系统所带来的潜在风险。那么，当我们无法可靠控制这些系统的行为时，会发生什么？ 在TechCrunch的Equity播客中，主持人Rebecca Bellan邀请了AI研究员、企业家、以及非营利组织ControlAI美国执行董事Connor Leahy。Con
AI资讯联合国开发计划署与日本电气携手利用AI推动自然保护与气候变化应对
联合国开发计划署（UNDP）与日本电气（NEC）签署合作备忘录，结合AI等数字技术促进自然环境保护和气候变化对策。
AI资讯这位前DeepMind高管警告：人工智能军备竞赛可能导致灾难
这是Verity Harding的观点。2016年至2020年间，Harding负责向全球政界人士，包括巴拉克·奥巴马和埃马纽埃尔·马克龙，介绍人工智能的最新进展。作为谷歌DeepMind全球公共政策负责人，她负责梳理伦理难题和潜在风险。她在最近接受WIRED采访时表示，当时的AI研究“根植于国际合作”。但随着时间推移，行业开始被竞争关系所塑造——不仅是Anthropic与OpenAI等实验室之间
AI资讯前DeepMind高管警告：人工智能军备竞赛或将酿成灾难
这是Verity Harding的观点。2016年至2020年间，Harding负责向全球政界人士介绍人工智能的最新进展，从巴拉克·奥巴马到埃马纽埃尔·马克龙都曾接受她的简报。作为谷歌DeepMind全球公共政策负责人，她负责梳理伦理难题和潜在风险。她在最近接受WIRED采访时表示，当时的人工智能研究“根植于国际合作”。但随着时间推移，行业逐渐被竞争关系所塑造——不仅是Anthropic与Open
AI资讯Anthropic将Claude Mythos扩展至15个以上国家的关键基础设施
Anthropic宣布将其联合行业项目“Project Glasswing”扩展至约150个新组织，覆盖15个以上国家。该项目利用AI技术发现并修复关键软件漏洞。此次扩展涵盖了电力、水务、医疗、通信和硬件等行业，这些领域在最初的合作伙伴中代表性不足。许多新增合作伙伴是维护其他组织和政府依赖的代码库的公司或非营利机构。 Anthropic的Claude Mythos是Project Glasswin