前沿人工智能实验室Anthropic正准备以高达2万亿美元的估值公开上市,尽管该公司在2026年上半年已经亏损了惊人的800亿美元。这次华尔街的首次公开募股(IPO)异常罕见,招股说明书中详细列出了众多潜在风险。
除了因全国范围内数据中心的持续反对、基础设施不足、电力供应紧张以及其产品使用可能引发的法律问题而面临巨大压力外,Anthropic还将其产品可能对人类造成的“灾难性或生存性风险”摆在了显眼位置。
这是一种极为罕见的表态,因为该公司正试图确立自己作为全球最有价值的人工智能公司,甚至超过埃隆·马斯克的SpaceX。简而言之,这次IPO几乎可以说是首次有公司公开上市时承认其自身存在可能导致人类灭亡的风险。
根据Anthropic的文件,公司在AI模型安全性方面必须不断做出“判断决策”,但同时也承认“无法保证”自身的努力足够有效。
招股书中写道:“这些判断尤为重要,因为随着AI系统能力的提升,因模型不匹配或误用而导致的潜在危害也相应增加。包括研究人员和政策制定者在内的广泛利益相关者都担忧,如果不负责任地开发和部署,足够先进的AI系统可能对社会构成灾难性或生存性风险。”
“我们以安全为核心的策略部分旨在减轻此类风险,但不能保证我们的努力一定成功,也不能保证整个AI行业会采取类似的安全措施。”
换句话说,即使是处于AI前沿的公司也无法保证这项技术不会——正如前Anthropic研究员Jacob Coxon今年早些时候辞职时所言——“在本世纪末杀死我们所有人”。

该公司甚至呼吁整个行业放缓前沿AI模型的开发,试图将自己塑造为比OpenAI或SpaceX更负责任的竞争者。
与此同时,也不难猜测,放缓发展和反复强调AI带来“灾难性或生存性风险”的背后,可能隐藏着其他动机。毕竟,Anthropic正积极向投资者展示自己是更值得信赖且更稳健的市场参与者。
然而,正如公司自己承认的那样,即便是Anthropic在建立安全防护和AI对齐方面的努力,也可能不足以完全避免风险,这使得其IPO成为一场超现实的信心考验。
由达里奥·阿莫代领导的公司如今陷入两难境地:行动过快可能增加灾难风险,行动过慢则可能导致财务崩溃。
公司在招股书中写道:“如果我们的模型、平台和应用市场发展速度低于预期或出现下滑,我们的增长可能放缓或停滞,业务、财务状况和经营结果可能受到不利影响。”
一旦以潜在的巨大估值上市,Anthropic将面临巨大的考验。开盘后,公司需要同时向散户投资者证明两点:它有能力确保AI不会毁灭人类,同时拥有实现盈利的可行路径。
考虑到迄今为止其信息传递极为混乱,这将是一项极具挑战的任务。


