AI资讯OpenAI与Anthropic呼吁英国议员制定AI监管法规
英国商业、创新、科学与贸易委员会近日召开听证会,邀请了四家领先的人工智能公司代表、四名前员工举报人以及高级政府官员出席,讨论AI安全监管问题。 Anthropic欧洲负责人Liam Booth-Smith在会上表示,公司坚信应制定具有约束力的法规,单靠自愿承诺远远不够。他强调:“规则必须具备法律约束力。” OpenAI副总裁Tom Duff Gordon则持谨慎但支持的态度,支持建立法定框架和国际
按标签聚合查看文章内容。
AI资讯英国商业、创新、科学与贸易委员会近日召开听证会,邀请了四家领先的人工智能公司代表、四名前员工举报人以及高级政府官员出席,讨论AI安全监管问题。 Anthropic欧洲负责人Liam Booth-Smith在会上表示,公司坚信应制定具有约束力的法规,单靠自愿承诺远远不够。他强调:“规则必须具备法律约束力。” OpenAI副总裁Tom Duff Gordon则持谨慎但支持的态度,支持建立法定框架和国际
AI资讯Anthropic公司CEO达里奥·阿莫代(Dario Amodei)在周六发表的博客文章《我们必须放缓前沿技术》中写道:“全球步调的协调需要与中国合作,而中国是一个拥有迄今为止最先进人工智能能力的专制国家。” 然而,中国政府和人工智能企业对阿莫代的提议持深刻怀疑态度,这并非因为他们想盲目竞速,也不是不认为人工智能存在严重风险。中国方面认为问题非常简单——他们觉得自己被提出了一个不公平的条件。 技
AI资讯OpenAI首席执行官山姆·奥特曼表示,或许是时候“放慢”人工智能的发展速度,以便让世界为此做好准备。 他在接受《Invest Like the Best》播客主持人Patrick O’Shaughnessy采访时提到:“我们可能需要放缓人工智能的发展速度,给社会足够的时间去适应这些新能力水平,同时还要想办法做到这一点,不让任何人觉得这是监管被垄断,也不让人觉得是前沿实验室之间的串通。” Open
AI资讯Anthropic的创始人兼CEO Dario Amodei于周一下午回应了业界关于其公司支持美国政府禁止开放权重中国模型,或甚至禁止所有开放权重模型的传闻。 他明确表示:“任何读过我过去文章的人都应该知道,我并不认为此类禁令是有效的措施,但我想明确说明:Anthropic从未主张禁止开放权重模型。” 此次回应是在Nvidia创始人兼CEO黄仁勋首次在X平台发帖后作出的。黄仁勋在帖子中分享了一封公
AI资讯这是由联合国国际电信联盟(ITU)主办的“人工智能为善”峰会,汇聚了来自公共和私营部门的代表,共同探讨如何将人工智能技术用于造福人类,而非带来负面影响。 当硅谷高管和人工智能实验室负责人在华盛顿向立法者陈述超级智能的风险,白宫对芯片实施出口管制时,已经举办第十届的联合国“人工智能为善”峰会则聚焦于更理想主义的目标。 ITU秘书长多琳·博格丹-马丁在大会主舞台的主题演讲中表示:“我们坚信,负责任地部
AI资讯Anthropic宣布将其联合行业项目“Project Glasswing”扩展至约150个新组织,覆盖15个以上国家。该项目利用AI技术发现并修复关键软件漏洞。此次扩展涵盖了电力、水务、医疗、通信和硬件等行业,这些领域在最初的合作伙伴中代表性不足。许多新增合作伙伴是维护其他组织和政府依赖的代码库的公司或非营利机构。 Anthropic的Claude Mythos是Project Glasswin
AI资讯许多人工智能研究人员坚信,他们正在开发的技术未来可能带来极大危险。然而,即使在AI技术精英中,如何有效控制这些难以预测的算法依然没有明确答案。 近年来,研究者们提出了各种防止AI失控的方案,包括较为温和的加强政府监管、改进进展评估方法、深入探查模型内部机制等,也有更为激进的建议,比如在GPU中安装追踪设备,甚至象征性地销毁大量AI芯片。 随着政治和公众对AI建设采取更审慎态度的呼声日益高涨,如何确
AI资讯联合国开发计划署(UNDP)与日本电气(NEC)签署合作备忘录,结合AI等数字技术促进自然环境保护和气候变化对策。
AI资讯这是Verity Harding的观点。2016年至2020年间,Harding负责向全球政界人士,包括巴拉克·奥巴马和埃马纽埃尔·马克龙,介绍人工智能的最新进展。作为谷歌DeepMind全球公共政策负责人,她负责梳理伦理难题和潜在风险。她在最近接受WIRED采访时表示,当时的AI研究“根植于国际合作”。但随着时间推移,行业开始被竞争关系所塑造——不仅是Anthropic与OpenAI等实验室之间
AI资讯这是Verity Harding的观点。2016年至2020年间,Harding负责向全球政界人士介绍人工智能的最新进展,从巴拉克·奥巴马到埃马纽埃尔·马克龙都曾接受她的简报。作为谷歌DeepMind全球公共政策负责人,她负责梳理伦理难题和潜在风险。她在最近接受WIRED采访时表示,当时的人工智能研究“根植于国际合作”。但随着时间推移,行业逐渐被竞争关系所塑造——不仅是Anthropic与Open
AI资讯“我原以为这会是一件很简单的事,大家都能同意进行伦理研究,确保对全人类有益,”她对WIRED说,“结果我大错特错了。” 这场名为《探索地缘政治临界点与气候降温策略》的模拟演习,聚集了来自全球的数十位外交专家、科学家、军方人员和前政府官员,他们在伦敦玛丽女王大学的一间会议室内展开讨论。大家在喝咖啡、吃酸奶时相互介绍,随后围坐成方形桌子,每人代表一个国家或组织:国家政府、气候非政府组织、土著群体和科技
AI资讯英国国王查尔斯于周四在苏格兰的邓弗里斯庄园举办了一场私密峰会,邀请了人工智能领域和英国政府的多位重要人物参加,包括英伟达的黄仁勋、OpenAI和Anthropic的领导者、英国新任人工智能部长卡尼什卡·纳拉扬,甚至还有英国海外情报机构负责人。教皇的人工智能顾问保罗·贝南蒂也出席了此次会议。 这次峰会的举办地点是查尔斯国王慈善基金会拥有的18世纪艾尔郡庄园——邓弗里斯庄园。国王在峰会上的讲话引人注目