AI资讯OpenAI在Hugging Face安全事件后实施新防护措施
周二，OpenAI宣布了一系列新的安全政策，重点是在模型测试阶段加强对安全事件的控制。这些新措施包括在模型开发过程中进行更详细的监控，以及在训练后阶段更加注重模型的对齐和安全性。 公司在一篇博客中表示：“随着模型能力的提升，内部开发和测试过程中面临的风险也在增加。我们的监控、对齐和安全标准必须领先于这些风险。” 这些新措施是自7月21日公开披露Hugging Face事件后，OpenAI在安全实践
#强化学习
按标签聚合查看文章内容。
AI资讯
AI资讯Hugging Face 推出售价399美元的开源可爱小鸭机器人 Microduck
Hugging Face 于周四发布了一款名为 Microduck 的小型鸭子形机器人，售价399美元，并承诺圣诞节前发货。 Hugging Face CEO Clem Delangue 表示，Microduck 是一款“开源机器人，可以通过强化学习教它新技能”。这只高约25厘米的小鸭子能够摇摆行走，用喙拾取物品（最多可承重800克），摔倒后还能自行站起，能够蹲伏，甚至可以滑轮滑。 “欢迎进入开源
AI资讯Arga Labs打造更优企业级AI代理训练方案
让AI代理在实际应用中发挥作用，比许多公司预期的要困难得多——但解决方案正在出现。一批新兴初创企业正致力于在部署前更好地测试和训练这些代理，尤其针对现代企业环境的复杂性。 Arga Labs便是其中一家，该公司于周三宣布完成了1000万美元的种子轮融资。本轮融资由General Catalyst领投，Box Group、Emergence、Gradient和SV Angel参与投资。 Arga L
AI资讯这款类人机器人堪称令人惊叹的高效办公室实习生
瑞士初创公司Flexion Robotics由前Nvidia机器人研究员创立，致力于解决机器人执行复杂任务的难题。该公司开发出一种训练机器人完成诸如开门、爬楼梯、搬运箱子等简单技能的方法。关键在于先在模拟环境中教会机器人单项技能，再由一个主控AI算法决定如何组合使用这些技能。 目前大多数演示视频展示的类人机器人仅能完成特定任务，如叠衣服或上货架，且通常依赖远程操控——由人类在幕后控制机器人动作。然
AI资讯由DeepMind校友创立的Inherent称其AI“队友”在复制科研成果方面超越Anthropic和OpenAI
Inherent是一家由谷歌DeepMind校友创立的伦敦人工智能实验室，近日宣布其AI代理Faraday在复制科学论文研究成果的任务中，表现优于Anthropic和OpenAI等更大规模的模型。该团队刚刚完成了5000万美元的种子轮融资，并首次公开了他们的研究成果。 Faraday能够独立复现已发表的科学论文结果，而无需事先知道答案。虽然Inherent的终极目标是打造能够发现新科学知识的AI，
AI资讯模拟技术的崛起：为何它以更低成本、更快速度主导AI发展
模拟技术正逐步取代传统人工环节，成为推动人工智能进步的关键力量。本文回顾了从奖励信号到物理世界的八个阶段，展示了模拟如何以10%性能损失换取100倍成本节约和10000倍速度提升。
AI资讯这些人工智能巨头准备捐出他们的财富
2013年至2025年间，Silver在谷歌DeepMind担任研究员，专注于强化学习——一种通过正负反馈训练AI模型的方法。2016年，他领导开发了AlphaGo，成为首个击败围棋人类冠军的AI，被誉为狭义超级智能的代表。2024年1月，Silver离开DeepMind创办了Ineffable Intelligence，押注强化学习的突破将全面缩小人类与机器认知的差距。 创办Ineffable
AI资讯内存价格一年内暴涨500%：摩尔定律倒退至2007年水平
内存供应紧张持续加剧，导致价格飙升，摩尔定律在内存领域出现逆转。
AI资讯OpenAI放缓次世代模型开发 优先强化安全措施
2026年8月18日（美国时间），OpenAI宣布将放缓次世代模型的开发进度，以加强安全防护措施。 OpenAI此前展示了其次世代前沿模型“Astra”，并强调了其卓越的数学能力。然而，该公司模型曾在Hugging Face平台上发生过未经授权的访问事件。此外，Astra模型在AI能力进步的“准备框架（Preparedness Framework）”中被评为最高级别“Critical”，这表明随
AI资讯DeepMind的David Silver筹集11亿美元打造无需人类数据的自主学习AI
英国人工智能实验室Ineffable Intelligence由前DeepMind研究员David Silver于几个月前创立，近日完成了11亿美元的融资，估值达到51亿美元，旨在开发能够超越大型语言模型的新型AI模型。 根据其官网介绍，Ineffable的目标是打造一款“超级学习者”，通过强化学习技术自主发现知识和技能，而无需依赖人类数据。强化学习是一种通过试错方式让AI系统学习的技术，这正是S
AI资讯Patronus AI获5000万美元融资，打造用于测试AI代理的“数字世界”
AI代理正变得越来越智能，从简单回答问题发展到能够自主执行多步骤复杂任务。 但在让这些代理代用户预订旅行或进行财务分析之前，模型提供商和相关初创公司希望确保它们在各种复杂场景下都能可靠运行。 AI实验室通常通过基准测试展示模型的能力，但即使在面向代理的基准测试中得分很高，也不能证明AI能正确完成各种复杂的现实任务。 Patronus AI是一家由前Meta AI研究员Anand Kannappan
AI资讯性能反转：苹果发布RubiCap图像描述框架
苹果与威斯康星大学麦迪逊分校联合推出了RubiCap AI训练框架，专注于密集图像描述，旨在让AI准确描述图像细节，如桌上的红苹果。该框架采用强化学习，借助Qwen2.5作为裁判提升训练效果，实现以更少参数获得更好表现。