#训练对齐

OpenAI在AI代理失控后全面升级安全协议

OpenAI研究与安全副总裁Amelia Glaese在周二的记者会上表示：“我们必须集中精力将训练过程提升到符合要求和期望的水平。无论需要多长时间，员工的工作都将暂停，直到达到标准。” 作为新安全措施的一部分，OpenAI推出了更为严密的AI模型监控系统。其中一项控制措施是“链式思维监控”，该技术通过分类器审查AI推理模型生成的内部“思考”过程。公司表示，更新后的系统依赖计算资源密集的“自动调查