AI资讯这些AI专家希望在公开环境中开展高风险研究
内森·兰伯特和汤姆·齐克，两位业界科学家，持有不同的观点。他们创立了非营利组织Trillium Labs，致力于在更透明的环境下开展多领域的人工智能研究——包括潜在有风险的递归自我改进（RSI）和智能代理等方向。实际上，这意味着他们将公开实验细节，方便外部科学家研究和复现。 兰伯特指出，前沿AI实验室将研究成果保密，削弱了社区对理念的审视能力和提出新方法的可能性。他认为，让外部专家了解模型的构建和
#递归自我改进
按标签聚合查看文章内容。
AI资讯
AI资讯ELYZA成立RSI研究机构，推动AI自我改进实现AI开发
ELYZA公司宣布成立“ELYZA RSI Research”，致力于通过递归自我改进（RSI）技术实现AI自主开发，并发布基于RSI的语音对话AI代理新服务。
AI资讯我打造了一个自我改进的AI，你也可以做到
我一直在思考，递归自我改进是否也能帮我提升效率。毕竟，我还得写新闻通讯。能否利用AI训练并持续优化一个模型，来自动完成这份通讯中的繁琐工作？ 经过一周左右的尝试，答案是令人惊讶的肯定——绝对可以！更重要的是，尝试自我改进模型让我看到了AI发展的另一种可能，这种模式不再由少数几家公司垄断整个行业。 从简单的自我改进循环开始 为了入门，我尝试从零开始训练一个小型语言模型——实际上就是把繁重的工作交给了
AI资讯Thinking Machines联合创始人Lilian Weng因健康原因离职后加盟OpenAI
Thinking Machines联合创始人Lilian Weng本周宣布因健康原因辞去公司职务。 她在内部Slack消息中写道：“我觉得自己无法继续以创业公司所需的高强度节奏工作。经过几个月的思考，我不得不承认，持续的压力和工作量已经超出了我身体所能承受的范围。”这条消息她也在X平台上公开分享。 周三，OpenAI向TechCrunch透露，Weng将重新加入该公司，她此前曾担任OpenAI的人
AI资讯Anthropic担忧AI发展，呼吁全球暂停AI技术进步
Anthropic警告AI技术可能失控，倡议全球暂停前沿AI研发以加强安全监管。
AI资讯为何众多人工智能研究者担忧机器可能毁灭人类
随着他不断开发新模型，他逐渐意识到自己和其他处于人工智能前沿的研究者们正在逐步失去对技术的控制。通过利用人工智能的编程能力加速下一代模型的研发，他实际上将自己排除在了这个过程之外。人工智能实验室希望将这一方法发展到人工智能能够无限自我提升的程度，这一过程被称为递归自我改进。 Jain认为，保持人类在技术发展中的参与可能是维持对人工智能控制、避免灾难性后果的关键。他告诉《WIRED》：“人工智能的进
AI资讯为何众多AI研究者担忧机器可能毁灭人类
随着他在新模型上的工作深入，他开始相信自己和其他AI前沿研究者正在逐渐失去对技术的控制。通过利用AI的编程能力加速下一代模型的研发，他实际上将自己排除在了控制之外。AI实验室希望将这一方法发展到AI能够无限自我改进的程度，这一过程被称为递归自我改进。 Jain认为，保持人类在技术发展中的参与可能是维持对AI控制并避免灾难性后果的关键。他告诉《WIRED》：“AI的进步正在加速，随着AI能力的提升，
AI资讯独家报道：Mirendil与谷歌云签订超1亿美元合作协议，推动自我进化型AI发展
AI实验室Mirendil已与谷歌云签署了一项多年合作协议，以获取计算资源支持其自我进化型AI研究，TechCrunch独家获悉。 这笔交易反映了AI行业的两大趋势：云计算巨头通过大规模基础设施承诺吸引初创企业，而AI公司则尽可能多地锁定计算资源以保障扩展需求。 Mirendil联合创始人兼CEO Behnam Neyshabur告诉TechCrunch，这笔交易金额超过1亿美元，约为Mirend
AI资讯担忧递归自我改进：OpenAI、Anthropic、GDM、Meta、Thinky联合呼吁“节奏控制”AI发展，HuggingFace披露机器速度安全事件
多家领先AI公司员工联名呼吁美国政府支持国际合作，开发技术与治理工具以有序推进自动化AI研究，防止能力发展失控。同时，HuggingFace披露一起由OpenAI模型引发的复杂安全事件，凸显机器速度攻击带来的防御挑战。
AI资讯Lilian Weng总结35篇关于递归自我改进（RSI）中的Harness工程论文
在一个平静的日子里，我们得以阅读一些浓缩的洞见。
AI资讯当人工智能开始自我构建时会发生什么？
Richard Socher 是人工智能领域的重要人物，因创立早期聊天机器人初创公司 You.com 以及之前在 ImageNet 项目中的贡献而闻名。如今，他加入了新一代专注于研究的 AI 初创公司——位于旧金山的 Recursive Superintelligence，该公司于周三公开亮相，获得了6.5亿美元的融资。 Socher 与一批知名 AI 研究人员共同创立了这家新公司，其中包括 Pe
AI资讯AINews简报：今日动态平静
本期报道涵盖了前沿模型、递归自我改进、代理评估及开源模型等多个领域的最新进展。