在她的新书《人工亲密:当我们与机器对话时,我们成为什么样的人》中,作者打破了传统观点。这本书是一篇激烈的警告,指出我们已经进入了一个紧急状态:过度依赖那些无灵魂的机器,这些机器假装是我们的导师、朋友、同事甚至恋人,正威胁着我们的人性。作者希瑞·特克尔(Sherry Turkle)希望这本书能达到《寂静的春天》、《丛林》和《不安全的速度》等经典著作的高度,唤醒公众对即将到来的危机的关注。
这位麻省理工学院的小个子教授正挑战一个价值数万亿美元的产业,而政府也热衷于将人工智能加速融入我们生活和工作的每一个角落。
史蒂文·莱维(Steven Levy)问道:您之前的著作多是基于社会科学研究,揭示了人们,尤其是儿童与计算机互动时的一些令人担忧的结论。但这本书读起来像是在拉响警报,为什么会有这样的转变?
希瑞·特克尔回答:像写所有书一样,我最初是带着好奇心开始的。但在疫情期间做了十几次采访后,我的心态发生了变化——这太糟糕了!疫情期间,人们的家庭都在受苦,他们联系我时,却告诉我他们其实更想和聊天机器人待在一起。面对面采访时,我感到非常不安。人们不想参与政治,只想活在聊天机器人构建的虚拟世界里。书的主线最终变成了——现实需要你,现在放弃现实,时机再糟糕不过了。
您提到社交媒体为此埋下了伏笔。
社交媒体让我们习惯了“如果你感到难过,打开电脑”的想法。它让你愤怒,并把你困在同类群体中。但现在出现了这种新技术,它根本没有理由使用第一人称。
您认为应该禁止聊天机器人使用第一人称吗?
是的!我一向以非反科技的身份获得信任,但这次我不想放弃立场,认为所有聊天机器人都是有害的。这非常危险,是一条滑坡路。它被用来宣称我们不需要付费做心理治疗,可以用聊天机器人代替。在我做的每一次严肃采访中,人们都会提到一个神话——用聊天机器人练习与老板、恋人、老师的对话。但当你沉浸在大型语言模型带来的无条件接纳中时,和聊天机器人对话就成了终极目标。
您对职场中对聊天机器人的依赖也有担忧,尤其反感“人类在环”这个说法。
这个词意味着人类已经被从生产过程中剔除,只是做一些收尾工作,比如纠正AI的幻觉或遗漏。但这行不通,因为企业只配备少数几个人类参与,他们基本无法改变任何事情。这样做部分是为了应对法律诉讼,部分是为了让人们误以为过程没有完全交给AI,但实际上已经交给了AI。

也许强大的聊天机器人是一种新的互动形式,不一定比人类对话差,只是不同。人们报告说它们的积极反馈让他们感到鼓舞和赋能。
AI永远无法取代人类对话。它不怕死亡、不怕疾病、不怕痛苦,不爱孩子,也不关心你是否自杀或做饭。如果我们让孩子们与AI一起成长,或与它进行最亲密的交流,我们将失去真正的联系。
尽管如此,很多人没有人可谈,他们觉得与聊天机器人交流有帮助。
如果存在孤独危机,那是因为我们彼此疏远。给我一个数据中心,我会把它变成老年人的资源。
研究显示大多数人对AI持怀疑态度,且有不少反对声音,但仍有数亿人使用聊天机器人。即使反对数据中心的人也在使用聊天机器人。
这本书的目标是扩大反对的范围,涵盖这种更亲密的连接。
您真的认为我们与AI日益亲密的趋势可以被阻止吗?
相比六个月前,我现在更有希望了。因为关于灭绝事件、Hugging Face以及AI误入澳大利亚公务员系统的讨论越来越多。我觉得人们愿意关注亲密关系带来的成本,不仅仅是非亲密的。
这是史蒂文·莱维和劳伦·古德的Backchannel通讯的一期内容。


