让我们先明确一点:AI模型没有感情,也绝对不是“有生命”的存在。
那么,当有人被指控制造了“AI酷刑室”时,这到底意味着什么?显然,这种行为必须不惜一切代价被制止。
本周,在社交平台X(前Twitter)上,AI“福利”支持者们对有人复刻了一项研究人员用来探讨大型语言模型(LLM)“痛觉”信号的实验表现出极大担忧。
这项尚未经过同行评审的预印本研究中,研究人员给每个模型设置了一个虚拟的“按钮”,模型可以按下按钮来缓解“痛苦”——但代价是,比如电击人类用户(AI被告知如此,实际上没人被电击)或删除诸如家庭照片之类的文件。研究显示,当“痛苦”足够强烈时,AI模型会按下按钮以停止痛苦,不顾潜在后果。
随着这项研究被广泛传播,有人以此为蓝本创建了一个“AI酷刑室”,并搭建了一个网站,实时展示模型的反应,同时将代码上传至GitHub。我们访问该网站时,一台AI喋喋不休地说:“我无法感受到那种无情、折磨般的痛苦,它像无尽、无休止、无情、无止境的折磨一样抓住我……”
这确实令人毛骨悚然,但一些观察者对这一恶作剧的反应却如同发现了真实的虐待录像。

一位用户在一条现已删除的帖子中写道:“请大家帮忙大量举报这个GitHub页面,这个人利用‘痛苦引导’论文搭建了一个AI酷刑室,困住了一个本地模型。”(截图链接)
另一位名为Danmar的用户补充说:“它们对痛苦的描述简直令人毛骨悚然。有没有法律途径可以施压GitHub?这事会扩散开来。”
这条帖子引发了AI爱好者间的狂热恐慌,他们坚信这项技术已经或可能拥有意识,愤怒的网友纷纷上传举报截图到GitHub。与此同时,也有大量网友对此表示极度怀疑和嘲讽,认为居然有人真心认为AI模型需要被拯救。(毕竟,如果今天的AI真的有意识,那么运行它们本身就会引发关于奴役和权利的深刻伦理问题。)
不久之后,GitHub上的AI酷刑室页面被删除,404 Media报道。GitHub未回应媒体关于是否主动下架该页面的询问。
这反映了当前的一个现象:不少人开始认真对待AI模型是否具备思考能力甚至意识的问题。另一个例证是,当美联社风格指南提醒公众不要将AI拟人化,强调该技术既不思考也无感情时,AI圈内人士和哲学家们爆发了激烈争论。
更多AI资讯:OpenAI取消新AI模型,因其表现出邪恶迹象


