#智能体监控

AI实验室需要内部审计员，但或许应先关闭大门

上周末，Anthropic的CEO达里奥·阿莫代（Dario Amodei）在一名研究人员因担忧AI可能导致人类灭绝而辞职后，提出了需要外部机构“验证安全实践和承诺的遵守情况、报告事件，并帮助评估不仅是已完成的AI模型，还有训练流程和过程的对齐性”的观点。OpenAI、谷歌和SpaceXAI的高管们已经支持阿莫代的计划，这一方案迅速成为新兴AI安全推动的核心支柱。 然而，网络安全专家认为，或许有一