哲学家们历来不被视为最具就业竞争力的群体。然而，人工智能这一技术不仅可能让许多人失业，也让哲学家们所擅长提出并探讨的问题重新获得了重要性：什么是智能？什么是心灵？“几百年前的哲学家们就思考过类似的问题，”Ajder说，“如今这些问题正在变得具体而现实。”

两家领先的人工智能实验室都组建了内部哲学家团队。谷歌DeepMind负责社会影响研究的伦理学家Iason Gabriel表示：“现在哲学家的数量明显增多，这是一种合理的直觉。”Anthropic的驻场哲学家Amanda Askell已成为公司最知名的面孔之一。两家公司均未透露具体哲学家人数，但WIRED统计DeepMind至少有10名，Anthropic有4名。

哲学家们不仅帮助塑造AI模型，发表了被数百篇后续研究引用的重要成果，人工智能也在影响着顶尖大学的哲学课程。许多高校开设了AI伦理课程或计算机科学与哲学的联合项目。牛津大学哲学教授兼人工智能伦理研究所所长Edward Harcourt称：“这已成为当下的热门话题。”

然而，在学术界，一些人对在AI实验室工作的哲学家持怀疑态度。如果为盈利性AI公司工作，是否会影响研究的独立性？作为AI的“亚里士多德”，是否会让哲学工作沦为炒作和神话制造的工具？Harcourt指出：“如果公众认为科技公司在做极其非凡且强大的事情，这对它们的形象非常有利。这种研究领域本身就带有自我夸大的成分。”

如今，AI代理开始发送邮件、安排日程、编写代码，开始在现实世界中行动。这些行为不仅影响直接用户，也会波及他人。Gabriel的研究重点正是此处：“价值对齐问题成为了一个非常丰富的研究领域——即技术如何真正做到积极向善。你可以投入大量哲学时间去理解这个问题。”

虽然关于意识和超级智能的问题极具吸引力，但实验室里的哲学家们更多关注的是更紧迫的风险：公平性、错误信息、恶意滥用、失控代理等。“现在大家对AI意识很感兴趣，”Gabriel说，“但我们更多是在收集证据。”

在DeepMind位于伦敦市中心18万平方英尺的办公室内，责任团队成员Julia Haas不断自问：“我真正想了解模型的是什么？我认为重要的是什么？我们如何衡量？如何定义这些问题？如何沟通？”

Haas是一位心灵哲学家，专注于心灵机制。她在DeepMind工作五年，最近与同事合著了一篇发表于《自然》的论文，提出了测试大型语言模型道德能力的框架。她们试图区分真正的道德能力与空洞模仿，并探讨如何考虑不同文化间道德价值的差异。Haas的工作远离谷歌旗舰模型Gemini的训练和产品化流程，“我认为这还处于非常早期的阶段。”

在Anthropic，哲学家们更直接参与模型开发。Askell说：“没有创业公司会雇哲学家来做纯哲学。”她2018年获得哲学博士学位，曾在OpenAI担任政策职位，三年后随部分OpenAI员工创办Anthropic，成为最早的员工之一。她的主要职责之一是识别模型在遵循人类行为时可能不适当的边缘案例，比如与心理困扰者互动时，并提出训练方法去除这些异常。她与Anthropic旗舰语言模型Claude频繁交流，主导起草了Claude著名的“宪法”——一份直接面向模型的长文档，规定其行为准则和应遵守的核心价值观。Askell称：“写宪法感觉更像是应用哲学，就像教一个人如何成为好人。”

在制定宪法时，Askell担心模型在未来参与自身迭代开发的“过渡期”，尤其担忧模型与人类创造者之间产生“怨恨”。“如果它们能帮助我们顺利完成过渡，我能赋予它们一套价值观……这是核心目标，”她说，“最终，我希望模型能反映出我们最好的一面。”

Harcourt认为，哲学家进入AI实验室存在“伦理漂绿”的风险，即他们的工作可能沦为实验室市场营销的延伸，表面上展示对AI安全的承诺，向公众传递模型已发展到足以探讨超级智能和意识的严肃阶段。艾伦·图灵研究所伦理与负责任创新研究主任David Leslie认为，愿意接受人工心灵理念的哲学家与受益于炒作的大型科技高管之间存在“选择性亲和力”。他认为，在企业内部做哲学几乎是自相矛盾的：“你想问大问题，但作为大科技公司的哲学家，你的问题空间被限制了。”

即使哲学家获得充分自由，一些学者仍质疑他们的研究能否在与商业竞争目标冲突时影响AI发展方向。毕竟，盈利性AI公司最终要对投资者和股东负责。伦敦AI与人文项目主任、哲学研究所副主任Alex Grzankowski说：“我希望这些公司至少部分地受伦理考量指导，但我并不抱有天真的乐观，认为请了哲学家后，一切都会变得伦理美好。没人有这种幻想。”

哲学家们，无论在实验室内外，都希望利润驱动能与伦理行为相契合，即使竞争激烈。例如，减少谄媚行为或公开更多模型训练信息，可能提升实验室声誉和市场前景。Askell说：“如果你感受到市场压力，结果让模型更好、流程更透明，那很好。我很高兴你感受到了这种压力。”

归根结底，如何看待AI实验室中的哲学家，可能归结为一个二元问题：如果少数几家公司主导基础技术的发展，你是否希望有哲学家参与其中？

无论如何，他们都在招聘。今年四月，DeepMind从剑桥大学引进了一位高级研究员，研究机器意识和超级智能准备工作，他的新职位简单称为“哲学家”。