谷歌DeepMind的Demis Hassabis、OpenAI的Sam Altman、Anthropic的Dario Amodei以及微软AI的Mustafa Suleyman等人共同签署了一封公开信，呼吁制定法律，要求销售合成DNA和RNA的公司对客户和订单进行筛查，以防止基因材料被滥用。
这封信由非党派的进步研究所（Institute for Progress）和偏右的美国创新基金会（Foundation for American Innovation）联合发起，信中指出，鉴于人工智能发展的速度，“历史上阻止不法分子获得生物武器的知识壁垒可能会被显著削弱”。
科学家Arthur Kornberg在20世纪50年代首次成功合成DNA。如今，这一过程已实现自动化，全球数十家公司使用商业合成仪“打印”并销售定制的基因序列，这些序列被用于科学研究、药物开发和诊断。虽然许多供应商只向合格的研究人员、生物技术公司和教育机构销售，但并非所有公司都会对客户或其订购的基因序列进行严格审核。
2017年，加拿大研究人员利用价值10万美元的邮购DNA重构了已灭绝的马痘病毒，引发了广泛关注。批评者指出，同样的方法可能被用来合成天花病毒，这是一种致命且密切相关的病毒。自那以后，基因合成的成本持续下降。
结合人工智能的进步，现在利用大型语言模型设计危险的新毒素和病原体已成为可能，尽管从零开始制造功能性病毒仍可能需要一定的生物学知识。尽管生物恐怖袭击较为罕见，但其潜在的后果包括大规模伤亡、公众恐慌和经济损失。一个主要担忧是，AI设计的病原体可能会有意或无意地引发全球大流行。
斯坦福大学微生物学家及生物安全专家David Relman在信中表示：“AI工具能迅速指引用户找到不受筛查限制的基因序列订购渠道。如果提示得当，它们还能教你如何修改订单，使得即使是进行筛查的机构也难以发现你真正想制造的东西。”
签署者还包括其他科学家、国家安全专家以及基因合成公司Twist Bioscience和Ansa Biotechnologies的高管。这些公司是2009年成立的国际基因合成联盟（International Gene Synthesis Consortium）成员，该联盟推动自愿筛查措施。许多公司已经使用软件筛查可能导致生物毒性或致病性的“关注序列”。
Twist Bioscience政策与生物安全副总裁James Diggans表示：“如果你拥有合成DNA的技术，就应该确保其被负责任地使用，其中一部分就是了解你制造的是什么以及为谁制造。”该公司多年来一直支持制定正式的监管规则。
拜登政府期间出台的联邦指南要求接受联邦资助的科学家和公司必须从筛查合规的供应商处订购合成基因序列。今年早些时候，参议院提出的一项两党法案将要求所有在美国运营的基因合成供应商对订单和客户进行筛查，以防止不法分子或危险病原体的出现。
但筛查工具并非完美。去年，微软研究人员发表研究显示，AI蛋白质设计工具能够生成潜在危险的基因序列，这些序列成功绕过了公司的筛查软件。模型提出的新蛋白质序列结构与已知危险蛋白质相似。
前Y Combinator总裁、Safe AI Fund合伙人Geoff Ralston认为，拥有生物学模型的AI实验室应自行对用户进行筛查。“让模型帮助你做极其危险的事情应该非常困难，甚至不可能，”Ralston说，他也是信函的签署者之一。
Relman同意筛查程序的监管只是解决方案的一部分。“鉴于筛查可能在某些情况下失效，我们必须设立其他控制点，”他说，“这正是AI公司需要承担责任的地方。”
