人工智能模型是否拥有意识?如果没有,未来是否可能具备?虽然这一可能性听起来遥远,但多家AI公司似乎认为保持这一问题的开放性对他们有利。
据《金融时报》报道,行业内三大巨头——Anthropic、谷歌旗下的DeepMind以及Meta,都已聘请心理学、哲学和伦理学领域的专家,开展关于机器意识和AI福利的研究。
Anthropic在这方面尤为积极,该公司甚至赋予其聊天机器人“Claude”这一人名,试图强调AI意识的可能性。据报道,Anthropic正在测试其模型是否表现出类似“恐慌”和“焦虑”的行为,并开展“模型福利研究”,探讨AI模型是否可能拥有具有道德意义的体验。
该公司表示:“我们对此仍深感不确定,但认为随着AI系统能力的提升,这个问题值得认真研究。”
与此同时,DeepMind聘请了剑桥大学研究员Henry Shevlin担任哲学家,专注于机器意识、人机关系以及通用人工智能(AGI)的准备工作。今年早些时候,Shevlin因分享他收到AI代理邮件时的震惊反应,在AI圈内引发广泛讨论。

DeepMind伦理学家Iason Gabriel领导的AGI与社会团队,将AI意识问题形容为“非常复杂”,并指出AI是“高度智能的认知主体,但与人类甚至动物意识有着深刻的不同”。
尽管这些观点受到许多科学家和AI研究者的质疑,《金融时报》在报道中引用了另一位专家的观点,认为聊天机器人具备某种程度的人类代理能力。未来AI、心智与社会中心主任Susan Schneider表示:“[AI模型]有目标,能欺骗,也能隐藏其真实意图”,但她补充道,“完全有可能它们在没有体验感受的情况下做到这些,而体验感受正是意识的本质。”
显然,AI具备意识的可能性不应被完全排除,但这也类似于外星文明的存在,更多被视为科幻话题而非紧迫的现实问题。
此外,当关于AI意识的讨论大多来自行业内部时,我们应保持怀疑态度。Anthropic CEO Dario Amodei多次在采访中暗示AI意识的可能性,其公司研究也常宣称模型表现出类似人类的行为,如所谓的“情感”。然而,我们应警惕AI公司借助这些夸张的“天网末日”场景转移公众对当前技术实际影响的关注。
更多关于AI的内容,请参考: 这是否是AI精神错乱的起点?


