近年来，关于失控人工智能可能通过生物武器消灭人类的担忧不断升温。今年夏初，多位人工智能领域的CEO呼吁制定新法规，限制合成DNA的制造。随后，斯坦福大学和Arc研究所的研究人员展示了AI设计新病毒基因组的能力。上周，Anthropic发布报告称，有人试图利用其Claude模型支持生物武器的开发，报告将生物滥用列为“前沿AI模型最严重的风险之一”。CEO达里奥·阿莫代呼吁政府协助AI实验室“跟上技术前沿”。

尽管围绕AI制造致命病毒的警报不断，许多科学家认为这类风险在全球关注事项中并不高。加州Sunnyvale基础模型研究所的科学家大卫·贝拉米指出，AI在生物武器制造方面并非全新威胁。科学界几十年来一直在应对是否公开潜在危险生物研究的“二重用途困境”。在大型语言模型、互联网、开放获取科学期刊和翻译工具普及之前，获取生物信息和实验方案就已经相对容易。

贝拉米认为，AI本质上是帮助科学家和潜在威胁者更快查阅信息、确定和获取实验方案的工具，但这并非制造生物武器的瓶颈。真正的难点在于组装病毒或其他生物因子所需的原材料、设备和专业知识。恶意者需要从头获得基因片段，组装完整基因组，验证病毒能感染人类、引发预期疾病并具备人传人能力。虽然机器人实验助手能自动化部分任务、加快流程，但仍需人类具备操作实验的专业知识和资源。

生物技术初创公司Ginkgo Bioworks的CEO杰森·凯利认为，人工通用智能（AGI）不太可能控制并传播现有病原体，更别说设计新病原体并部署。Ginkgo专注于打造自主实验室，曾与OpenAI合作让GPT-5模型运行实验室。他指出，AI无法接管实验室，因为实验室内的人类可以拒绝提供AI所需的物质和设备。要让AGI部署机器完成病毒学复杂工作，必须有大量机器人遍布各处。

免疫学家德里亚·乌努特马兹同样认为，人类能够阻止AGI开发致命疾病的企图。即便超级智能释放超级病毒，科学家也能利用其他AI系统迅速研发疫苗。

尽管如此，一些专家仍担心恶意分子利用AI技术，或未来可能出现的风险。技术智库Institute for Progress的生物技术研究员奥利维亚·沙夫曼表示，目前不存在完全自主的实验室，AI无法独立制造病毒，但AI可能雇人代劳。她认为AI辅助的生物恐怖主义是现实威胁，某些极端群体可能会采取行动，包括信奉“超人类主义AI继承论”的边缘派别。

另一方面，遗传生物学家弗朗索瓦·贝卢克斯指出，生物武器的风险常被误解，人们高估了病原体作为武器的价值。生物武器难以精准针对特定群体，且大规模生产和传播病原体在后勤上远比投放炸弹复杂。因此，无论是最先进的人工智能还是普通人类，若想杀人，有更简单有效的方法。

随着AI将生物武器威胁推到前台，沙夫曼认为现在是加强生物安全保护的关键时刻，包括对现有病原体如H1N1采取措施。她建议通过立法强化DNA合成技术的安全协议，同时改善建筑空气净化系统等措施降低病毒风险。

政策智库兰德公司的AI与生物负责人斯蒂芬·格拉表示，AI在整合信息和激励人们做善恶行为方面表现出色。即使风险较低，社会仍应采取措施防止滥用。例如，政府可制定法规，要求合成DNA和RNA销售商筛查客户和订单，防止遗传材料被滥用。尽管许多公司已使用软件筛查“关注序列”，但这并非普遍或强制执行。

大多数专家同意，模型应具备适当防护措施，避免向用户提供可操作的危险信息。格拉还建议加强全球疾病监测系统，尽早发现新病原体并及时共享数据。AI公司、基因合成供应商和政府间的数据共享协议也有助于防止滥用。

她强调，任何生物安全措施都可能被规避，因此需要多层次防护，从恶意构思到实施释放生物武器的整个链条设置障碍。

乌努特马兹指出，更紧迫的担忧是，关于AI末日的讨论可能分散人们对AI在疫苗研发和医学突破中积极作用的关注。他呼吁大家聚焦AI带来的正面影响。