AI资讯担忧递归自我改进：OpenAI、Anthropic、GDM、Meta、Thinky联合呼吁“节奏控制”AI发展，HuggingFace披露机器速度安全事件
多家领先AI公司员工联名呼吁美国政府支持国际合作，开发技术与治理工具以有序推进自动化AI研究，防止能力发展失控。同时，HuggingFace披露一起由OpenAI模型引发的复杂安全事件，凸显机器速度攻击带来的防御挑战。
#人工智能发展
按标签聚合查看文章内容。
AI资讯
AI资讯山姆·奥特曼准备放缓人工智能发展步伐
OpenAI首席执行官山姆·奥特曼表示，或许是时候“放慢”人工智能的发展速度，以便让世界为此做好准备。 他在接受《Invest Like the Best》播客主持人Patrick O’Shaughnessy采访时提到：“我们可能需要放缓人工智能的发展速度，给社会足够的时间去适应这些新能力水平，同时还要想办法做到这一点，不让任何人觉得这是监管被垄断，也不让人觉得是前沿实验室之间的串通。” Open
AI资讯递归自我提升（RSI）成为新的通用人工智能（AGI），但同样难以界定
“递归”一词最近在人工智能领域成为了新的流行词。已有两家初创公司以此为名，更多企业也在其发展规划中提及递归自我提升（RSI）。就像之前的通用人工智能（AGI）一样，RSI已成为一个代表AI爆发式发展的三字缩写，尽管对其具体含义仍存在一定分歧。 简单来说，RSI指的是一种能够不断自我升级的AI系统。一旦AI系统能够比人类更高效地管理升级周期，这一过程就可能形成一个闭环，唯一的限制是它们可用的计算能力