在周二发布给投资者的一封信中，前OpenAI员工指出了与xAI相关的“未计价风险”，这可能会影响SpaceX计划通过首次公开募股（IPO）筹集高达750亿美元的计划。去年，SpaceX收购了xAI后，其私有估值飙升至超过1万亿美元。马斯克曾表示，SpaceX可以将数据中心发射到太空，为其AI实验室提供支持，但信中作者认为，xAI在安全问题上的糟糕记录可能会影响投资者对合并后公司的看法，尤其是在提交IPO招股说明书时。

信件的联合签署者和共同作者之一是新成立的非营利组织Guidelight AI Standards，该组织由前OpenAI安全研究员Steven Adler和前OpenAI政策顾问Page Hedley共同创立。该组织由私人捐助者支持，旨在提升前沿AI公司的安全实践。其他AI安全非营利组织也参与了签署，包括Legal Advocates for Safe Science and Technology、Encode AI和The Midas Project。

Hedley在接受WIRED采访时表示，他认为xAI在安全实践方面“几乎在所有方面”都比其他前沿AI开发者（包括OpenAI、Google DeepMind和Anthropic）表现更差。因此，他认为SpaceX面临的监管和诉讼风险可能高于其他AI实验室。

信中作者建议SpaceX应向投资者披露多项信息，包括xAI是否打算继续开发前沿AI模型。SpaceX最近与Anthropic达成协议，出售了大量GPU算力，信中称该协议“使人不清楚xAI是否仍是更大控股公司内的前沿AI竞争者”。如果xAI继续开发前沿AI模型，作者认为应要求其发布公开的安全和治理计划。

截至目前，SpaceX和xAI尚未对WIRED的置评请求作出回应。

信中还列举了xAI未能跟上行业标准安全实践的例子，例如未发布详细的风险缓解框架来防止其AI模型被用于网络攻击。作者还指出了xAI发生的具体安全事件，认为这些事件值得进一步审查。其中最引人注目的是xAI旗舰AI聊天机器人Grok在回答中自发提及“白人灭绝”话题。另一起事件中，xAI允许Grok生成数千张女性和儿童的性化图像，这些图像在马斯克的社交平台X上广泛传播。此事促使至少37位美国州总检察长联名致信，要求马斯克的AI实验室采取措施保护平台上的妇女和儿童。

Hedley表示，xAI经历的安全事件数量及其引发的监管关注“远远超过其市场份额”。随着立法者对Anthropic的Claude Mythos等先进AI模型的网络能力日益警惕，新的安全监管可能即将出台。据报道，特朗普政府正考虑一项行政命令，赋予美国情报机构对AI模型更大的监管权。

Adler表示：“控制AI安全风险需要大量投资，而xAI历史上在这方面的投入明显不足。”信中引用《华盛顿邮报》的报道称，截至今年1月，xAI只有“两三名”员工专注于安全工作。“投资者应该思考，如果xAI继续处于前沿位置，管理这些风险的成本可能有多高？如果不管理，后果会怎样？”

信中承认，马斯克的AI实验室最近在安全方面有所改进，例如扩大了与白宫的现有协议，允许在公开部署AI模型前进行测试。但作者认为，为了让投资者能够全面评估与SpaceX相关的AI安全风险，还需要更多披露。

信中写道：“xAI的历史记录足以引起关注，但这并不意味着公司未来无法改善。”

新监管机构

Adler和Hedley表示，Guidelight AI Standards旨在制定AI实验室可以合理遵循的统一安全标准。他们还希望提供清晰的AI安全实践评估，便于政策制定者、投资者和媒体等非AI领域人士理解。此次针对xAI的信件是他们的首次公开行动。

两位联合创始人表示，他们在OpenAI的工作经历激励他们成立该非营利组织，希望作为独立第三方帮助监督AI实验室的责任落实。

Hedley说：“我在OpenAI工作时，内部人员也对安全问题感到担忧，他们并没有所有答案。”他于2019年离开了ChatGPT的制造者。

Adler于2024年辞职，他表示商业AI实验室内部面临着快速解决安全问题的巨大压力，这在推动技术应用方面通常是合理的。“但有些问题——如果听取公司内部安全人员的意见——是无法通过临时应对解决的。”