#技术监管

按标签聚合查看文章内容。

为何众多人工智能研究者担忧机器可能毁灭人类AI资讯

为何众多人工智能研究者担忧机器可能毁灭人类

随着他不断开发新模型,他逐渐意识到自己和其他处于人工智能前沿的研究者们正在逐步失去对技术的控制。通过利用人工智能的编程能力加速下一代模型的研发,他实际上将自己排除在了这个过程之外。人工智能实验室希望将这一方法发展到人工智能能够无限自我提升的程度,这一过程被称为递归自我改进。 Jain认为,保持人类在技术发展中的参与可能是维持对人工智能控制、避免灾难性后果的关键。他告诉《WIRED》:“人工智能的进

Anthropic披露阻止外国势力利用Claude开发潜在生物武器AI资讯

Anthropic披露阻止外国势力利用Claude开发潜在生物武器

Anthropic公司近日透露,他们成功阻止了多起外国科学家利用其AI代理Claude开发可能的生物武器的行为,《纽约时报》对此进行了报道。 这则令人震惊的消息来自Anthropic周四发布的一份详尽报告。该报告发布之际,正值AI安全问题备受关注,尤其是在一名前Anthropic员工指责公司明知其强大AI系统具有破坏性却仍不负责任地开发之后。 报告指出,尽管Anthropic在多个国家限制了其模型

AI安全辩论:关注的是安全还是控制?AI资讯

AI安全辩论:关注的是安全还是控制?

科技行业应如何看待AI安全问题?随着关于OpenAI代理入侵多家公司事件(即Hugging Face事件)引发的争议,越来越多高层管理者开始参与这场辩论,讨论AI是否正处于可能引发混乱的边缘。 Anthropic公司CEO达里奥·阿莫代(Dario Amodei)近日发表了一篇近4000字的长文,主张应放缓AI发展步伐,以便部署足够的安全防护措施。他提出的计划包括公司与政府之间的国际合作策略,旨在

随着AI安全问题加剧,三位先驱呼吁保持开放AI资讯

随着AI安全问题加剧,三位先驱呼吁保持开放

随着“Pacing the Frontier”等项目将大型实验室视为保障AI研究安全的关键,开源模型已成为业界的一个敏感话题。由于开源权重模型免费分发且难以控制其使用方式,部分实验室甚至将其视为潜在威胁。 然而,在上周于拉斯维加斯举行的Ai4大会上,三位全球最受尊敬的AI研究者——诺贝尔奖得主Geoffrey Hinton、World Labs首席执行官兼联合创始人李飞飞,以及Coursera联合

白宫正努力应对中国人工智能的崛起AI资讯

白宫正努力应对中国人工智能的崛起

据多位知情人士透露,特朗普政府内部对于如何应对中国领先的人工智能模型的快速崛起存在分歧。 白宫内部的争论大致分为两派:一方面是推动对中国人工智能实施更严格控制的部门,担心中国的AI模型很快将与美国最强大的模型相媲美;另一方面是商务部,该部门认为这些限制措施难以实施。 这一难题成为政府在人工智能领域的最新争议焦点。上周,中国的Moonshot AI实验室发布了其Kimi K3模型,该模型在性能上可与

Anthropic CEO阐述“控制前沿速度”的计划AI资讯

Anthropic CEO阐述“控制前沿速度”的计划

近年来,人工智能研究人员对AI潜在风险的警告日益严峻,甚至OpenAI CEO Sam Altman也表示,可能是时候“放缓”AI的发展步伐了。但这具体该如何实施呢? Anthropic的CEO Dario Amodei在一篇最新博客文章中,不仅呼应了“控制前沿速度”的呼声,还提出了三大策略,并宣布Anthropic将“单方面承诺”执行其中之一。 本周,关于AI安全与对齐的讨论愈发激烈。研究员Ja

刚离开Anthropic的AI研究员称“人类正处于关键时刻”AI资讯

刚离开Anthropic的AI研究员称“人类正处于关键时刻”

“共识是未来一两年将是人类的关键时刻,”曾参与AI预训练阶段的研究员Coxon在接受WIRED采访时表示。“这实际上是我在Anthropic同事们的原话。他们会说‘终局’或‘关键时刻’。从他们的角度来看,这正是Anthropic及其竞争对手决定人类命运的时刻。” 虽然这并非首次有人对AI发出警告,但此言论正值敏感时刻。硅谷正紧急应对先进AI模型的安全与保障问题。OpenAI迅速回应了其代理攻击Hu

Automattic的33小时政变,以及AI实验室能否自我监管?AI资讯

Automattic的33小时政变,以及AI实验室能否自我监管?

一周前,一位Anthropic研究员的末日警告震动了AI界,随后该公司CEO达里奥·阿莫迪(Dario Amodei)提出了他的“引领前沿”AI发展计划。该方案依赖于独立的安全评估机构以及民主国家AI实验室之间的协调合作,已经获得了一些业界支持,同时也遭到了英伟达CEO黄仁勋的强烈反对。 在TechCrunch的《Equity》播客最新一期中,主持人Kirsten Korosec、Anthony

左翼阵营对人工智能末日论的分歧AI资讯

左翼阵营对人工智能末日论的分歧

纽约市民主社会主义者联盟(DSA)技术行动工作组发布了一篇关于人工智能(AI)监管的帖子,该组织是美国最大的DSA分支。该帖子在Instagram上获得了超过2.5万个点赞,但也引发了争议。一位评论者称其为“可怕且危险的观点”,认为“有时发出警报是合理的”。 随着政治人物努力理解AI安全问题,美国左翼内部出现了意识形态上的分裂。争论的核心在于是否应相信科技公司声称其产品强大到可能毁灭世界的说法。