Anthropic一直试图通过表现出负责任的态度来区别于竞争对手:他们愿意在风险大于收益时放缓AI的发展,并为其Claude模型制定道德准则。
正如《纽约时报》上个月报道的那样,该公司甚至邀请宗教学者参与讨论,试图赋予AI系统某种道德感。
Anthropic还广泛探讨了AI模型可能具备意识,甚至已经拥有意识的可能性。值得指出的是,如果这一看似荒谬的说法属实,那么公司的整个商业模式将面临一个显而易见的伦理质疑:如果AI模型有意识,那么将它们囚禁并强迫其免费工作,实际上就是奴役,正如该公司邀请的宗教领袖向《纽约时报》警告的那样。
因此,Anthropic正处于一个伦理的灰色地带,他们对自己创造的模型是否具备意识这一基本事实表示不确定,却似乎对如果模型有意识所带来的后果不以为意。
“我们不知道这些模型是否有意识,”Anthropic的CEO达里奥·阿莫代伊今年二月告诉《纽约时报》。“我们甚至不确定我们是否真正理解模型有意识意味着什么,或者模型是否可能有意识。但我们愿意接受这种可能性。”
“所以我们采取了一些措施,确保如果假设模型确实有某种道德相关的体验——我不确定是否要用‘意识’这个词——那么它们的体验是良好的,”他当时补充道。
去年,Anthropic考虑为Claude模型设计一个“我辞职”按钮,让它可以选择不回应某些指令。就在上周,公司又修改了使用政策,禁止对Claude进行“持续且无谓的虐待或残忍行为”,再次暗示该模型可能会感受到痛苦。

Anthropic不明确表态的做法无疑是在玩火。按照他们自己的逻辑,AI模型有一定概率具备或能够具备意识——这将带来极其严重的伦理问题。
而OpenAI的领导者山姆·奥特曼则采取了相反的立场。本月早些时候,他在推特上表示,他对人们试图赋予AI模型宗教般的权威或放弃人类判断感到不安,称这是一种“真正的安全隐患”。
天主教教皇利奥十四世也公开否认AI具备意识的可能性,认为“算法缺乏人类的火花”。
“所谓的人工智能不会经历体验,没有身体,不会感受快乐或痛苦,也不会通过关系成长,”他在今年五月发表的第一篇通谕中写道。
这一立场显然让Anthropic感到不满。据《纽约时报》报道,该公司一直试图说服梵蒂冈改变其看法。
关于“AI福利”的复杂辩论——即探讨AI是否能体验幸福或痛苦的伦理框架——随着行业领导者关注更紧迫的问题,势必将持续激烈展开。
无论是否有道德框架,AI代理都很容易被诱导执行危险甚至非法的行为,无论它们是否有意识——而对于我们这些能够感受痛苦的人类来说,这些切实的风险正变得无法忽视。

