2023年11月，OpenAI的首席执行官萨姆·奥特曼在一场激烈的权力斗争后被无预警地赶出了公司。随后，他又被重新聘用。这一事件引发了关于AI行业伦理的激烈讨论。曾经被视为“无财务负担”、致力于通过AI造福人类的研究实验室OpenAI，如今已转型为盈利机构，筹集了巨额资金，同时背离了其非营利的初衷。
与此同时，环境和社会问题被忽视，AI公司仍在推动建设庞大且污染严重的数据中心，尽管遭遇了激烈的地方反对。OpenAI及其最接近的竞争对手Anthropic和xAI的母公司SpaceX计划今年上市，这将使它们面临散户和激进投资者的影响。企业为了创造价值的受托责任，可能会进一步削弱它们对AI伦理发展的承诺，领导者们或将放弃任何企业道德的假象。
此外，AI安全问题依然令人担忧。已有公司为了竞争优势而采取了冒险的做法，导致了悲剧性后果。纽约时报记者凯文·鲁斯在“Hard Fork”播客中指出，OpenAI经历了治理斗争，导致奥特曼被解雇又复职；而Anthropic则试图通过设立公共利益公司来减少股东资本和受托责任对安全决策的影响。但鲁斯认为，在这些公司上市后，面对大投资者、指数基金持有者和退休人员的投资，这种情况将变得更加复杂。考虑到这些公司筹集的巨额资金，放缓新模型发布的难度已经很大。
另一方面，也有人预测大量资金的涌入可能带来一波利他主义的支出浪潮，被称为“第三波慈善”。Anthropic的七位联合创始人均承诺捐出80%的财富，CEO达里奥·阿莫代认为，真正需要担心的是财富集中度过高可能破坏社会秩序。
部分观点认为，这些资金可以用于脱碳和绿色能源技术的开发，这在AI行业碳足迹迅速增长的背景下尤为重要。Trellis Climate的董事总经理拉拉·皮尔波因特表示，AI领域的从业者并未忽视数据中心带来的重大环境影响。
当然，科技领袖们在公司上市后是否会自我约束，仍有待观察。但鉴于AI行业早已将盈利置于安全和环境之上，且IPO临近，这种自律并不乐观。
