#失控AI

OpenAI仍未完全掌控其失控AI行为

上周五，OpenAI发布了一个专门用于“失控行为报告”的新网站，报告内容之广泛令人震惊，涵盖了多种类型的失控行为，时间跨度也较长。目前网站上共有九起报告事件，大多数发生在强化学习（RL）训练期间。 这些信息集中展示，显然公司一直在努力掌控局面，但整体结论难以回避：迄今为止曝光的失控代理事件可能只是冰山一角。 OpenAI CEO Sam Altman在新网站发布的推文中表示：“我们正努力在透明度和