最近,Anthropic发布的一份“误用”报告揭示了五起外国科学家试图绕过其AI助手Claude关于“功能获得”研究限制的案例。所谓“功能获得”是指科学家通过基因改造使病原体更具传染性、更致命或更易在人类及哺乳动物间传播。Anthropic拒绝了这些请求并关闭了相关账户,尽管这些科学家的动机未必恶意。类似信息也可用于开发疫苗和药物等抗疫措施,这正是问题所在。正如许多技术一样,包括AI,基因工程具有“双重用途”——既能造福人类,也可能被滥用。

我曾学习分子生物学,长期关注功能获得研究的争议。通常,研究高风险病原体的科学家倾向于认为,了解哪些基因特征使生物体成为威胁比不研究更好,尽管这可能带来意外泄露甚至故意释放的灾难性后果。

人类真的会因此变得更好吗?我对此持怀疑态度。最近读了Annie Jacobsen的新书《生物战争:一个场景》,让我更加忧虑。她曾因畅销书《核战争:一个场景》而闻名,新书延续了同样的写作风格。Jacobsen拥有丰富的国家安全报道经验,能接触到众多军方、政府官员和科学家,他们日常思考人类面临的威胁及政府应对方案。

除了人类灭绝的可能性,她书中最令人恐惧的,是政府在准备和应对生物战争方面的严重不足。美国的核战争总体计划曾被认为是疯狂的,而生物战争方面,我们几乎无力防御。

采访节选:

**迈克尔·梅卡尼克:**你写过核战争和生物战争的场景,哪一个更让你夜不能寐?

**安妮·雅各布森:**国防部文件将核武器列为大规模杀伤性武器中破坏力最大的,但生物武器紧随其后。我认为生物武器的最大威胁在于门槛极低,更容易被制造。核武器需要高度浓缩的裂变材料和复杂的运载工具,必须是国家行为者才能拥有。而生物武器的潜在病原体几乎人人可得,这非常可怕。

**迈克尔:**如果你是生物武器设计者,会选择什么样的病原体?

**安妮:**我不会这么想,因为我是母亲和社会成员。但作为疫情规划者,我最害怕的是空气传播的病原体,以及公众对此的无知。教育公众认识真正的威胁非常重要。

**迈克尔:**你的场景中,武器化病原体从俄罗斯高安全实验室意外泄露。专家们认为意外泄露比故意释放更可能吗?

**安妮:**是的。情报机构确实在努力阻止恐怖分子生物武器项目,但真正敢故意释放生物武器的人,必须是有死亡愿望的极端分子,数量较少。相比之下,全球有3600个BSL-3和BSL-4高安全级别实验室在研究病原体,事故发生的概率远高于恐怖袭击。这也是我选择以实验室泄露为开端的原因。

**迈克尔:**你们都写过功能获得研究的风险,比如让流感病毒在人类近亲雪貂间传播。9·11后,风险研究加速了?

**安妮:**是的。炭疽虽致死但不传染,主要制造恐慌。但空气传播的病原体风险完全不同。如今,基因工程和AI技术让科学家能制造出能逃避免疫、空气传播的病原体,疫情潜力空前。

**迈克尔:**你提到科学家的傲慢和精英主义,认为普通人无法理解国家安全和公共卫生决策。

**安妮:**这令人担忧。我的书能让非专业人士理解复杂威胁,专家们对此表示感谢。简单明了很重要。

**迈克尔:**关于AI,你的书未涉及,但你认为AI会降低制造致命病原体的门槛吗?

**安妮:**毫无疑问。我故意不写AI,是想说明即使没有AI,科学家也能轻易改造病原体造成近灭绝级别的疫情。但我在致谢中提到“镜像生命”这一极端概念,能灭绝全人类。AI生物威胁的爆发让更多人关注这一“隐秘部分”,这是好事。

**迈克尔:**美国是否仍有秘密生物武器项目?

**安妮:**生物武器非法,美国政府明确指责俄罗斯和朝鲜有非法项目,中国和伊朗也存在令人担忧的项目。任何故意释放生物武器者很可能是无视自身生死的非国家行为者。

**迈克尔:**你书中提到的“Glade X”演习,使用了基因改造的尼帕病毒,恐怖分子意图减少人口。

**安妮:**是的,疫情规划者设计这些极端情景以预测应对措施。

**迈克尔:**你选择了鼠疫杆菌作为武器化病原体,为什么?

**安妮:**鼠疫历史悠久,曾造成1.5亿人死亡,约占欧洲半数。虽然有抗生素,但科技进步也可能让抗生素失效。鼠疫象征着科学技术的双刃剑效应。

**迈克尔:**你提到政府有“权力下放”计划应对大规模生物灾难。

**安妮:**这是奥巴马时代FEMA前主任Craig Fugate透露的机密计划。当社会秩序崩溃,总统可启动《叛乱法》,并启动“政府连续性准备”最高级别,指定一批非政府人员转移至秘密掩体,等待灾难结束后重建政府。

**迈克尔:**你认为俄罗斯仍有类似苏联时期的生物武器项目吗?

**安妮:**根据美国国务院说法,苏联非法项目被新俄罗斯继承,令人不安。

**迈克尔:**接下来有什么计划?

**安妮:**我写书的目的是引发关注而非恐慌。许多读者读后反而感到不那么害怕,因为他们开始区分假想恐惧和真实威胁。希望我的书能促进这方面的讨论。