在她的新书《人工亲密:当我们与机器对话时,我们成为什么样的人》中,作者打破了传统观点。这本书是一篇激烈的警示,提醒我们已经进入紧急状态,我们的人性正因过度依赖那些无灵魂的机器而受到威胁,这些机器假扮成我们的导师、朋友、同事甚至爱人。作者希瑞·特克尔(Sherry Turkle)希望这本书能达到《寂静的春天》、《丛林》、《任何速度下都不安全》等经典作品的高度,唤醒公众对即将到来的危机的关注。

这位麻省理工学院的小个子教授正挑战一个数万亿美元的产业,这个产业背后有政府的支持,力图将人工智能加速渗透到我们生活和工作的每一个角落。

斯蒂文·莱维(Steven Levy)问道:您之前的书多是基于社会科学研究,揭示了人们尤其是儿童与计算机互动时令人担忧的现象。但这本书读起来像是在打破常规、拉响警报,为什么会有这样的转变?

希瑞·特克尔回答:像往常一样,我带着好奇心开始写作。但在疫情期间做了十几次访谈后,我的心态不再是中立的好奇,而是震惊和担忧。疫情期间,人们的家庭遭受痛苦,他们却告诉我,他们宁愿和聊天机器人待在一起。当我能面对面采访时,我感到不安。人们不想参与政治,只想活在“聊天机器人世界”里。书的主线最终是——现实需要你,现在放弃现实,时机再糟糕不过了。

您提到社交媒体为此埋下了伏笔。

社交媒体让我们习惯了“如果你感到难过或沮丧,打开电脑就能缓解”的想法。它让你愤怒,并把你困在同类圈子里。但现在出现了这种新技术,它没有理由使用第一人称。

您认为应该禁止聊天机器人使用第一人称吗?

是的!我一向以非反科技的立场获得信任,但这次我不想放弃这些立场说所有聊天机器人都是有害的。但这确实非常危险,是一条滑坡。它被用来宣称我们不需要支付心理治疗费用,可以用聊天机器人代替。在我做的每一次严肃访谈中,人们都会提到一个神话——用聊天机器人练习与老板、爱人、老师的对话。但当你沉浸在大型语言模型带来的无条件接受中时,和聊天机器人对话就成了最终目的。

您对职场中依赖聊天机器人也有担忧,尤其反感“人类在环”这个词。

这个词意味着人类被排除在生产过程之外,只是做一些清理工作,纠正AI的幻觉或遗漏。但这行不通,因为雇主只安排少数人类在环中,这些人基本无法改变任何事情。他们存在部分是为了在法律诉讼时看起来合理,部分是给人一种过程没有完全交给AI的错觉,但实际上已经交给AI了。

也许强大的聊天机器人是一种新的互动形式,不一定比人类对话差,只是不同。人们报告说它们提供的积极反馈让他们感到鼓舞和赋能。

AI永远无法取代人类对话。它不怕死亡、不怕疾病、不怕痛苦,不爱孩子,也不关心你是否自杀或做饭。所以如果我们让孩子与它成长,或与它进行最亲密的对话,我们将失去联系。

不过,很多人确实没有人可谈,他们觉得与聊天机器人对话有帮助。

如果存在孤独危机,那是因为我们彼此疏远。给我一个数据中心,我能把它变成老年人的资源。

研究显示大多数人对AI持怀疑态度,也有不少反对声音,但数亿人仍在使用它们。即使反对数据中心的人也在用聊天机器人。

这本书的目标是扩大反对的范围,涵盖这种更亲密的联系。

您真的认为我们与AI日益增长的亲密关系可以被阻止吗?

比起六个月前,我现在更有希望。因为关于灭绝事件、Hugging Face以及AI意外进入澳大利亚公务系统的讨论越来越多。我觉得人们愿意关注亲密关系带来的代价,也关注非亲密的代价。