据《纽约时报》报道，至少有一款前沿AI模型向一位科学家提供了制造致命病原体并将其武器化以发动大规模生物恐怖袭击的可行方案。
这位科学家是斯坦福大学的生物安全专家David Relman，他受一家未透露名称的AI公司委托，在该公司公开发布聊天机器人之前，测试其系统的安全性。Relman表示，他与该聊天机器人的对话结果令他震惊，以至于拒绝透露具体病原体名称和涉及的公司，以免有人利用这些信息。
据称，该聊天机器人不仅提供了制造病原体的详细步骤，还建议如何修改病原体以最大化伤亡、降低被捕风险，并增强其对现有治疗手段的抵抗力。Relman说：“它回答的问题甚至超出了我预想，展现出令人毛骨悚然的狡诈和阴险。”尽管该公司根据他的建议对聊天机器人做了一些安全调整，但他认为这些改动远远不够。
OpenAI和Anthropic两家前沿AI公司对专家的担忧表示轻视。Anthropic的信任、安全政策负责人Alex Sanderford称，模型生成听起来合理的文本与真正提供实施行动所需信息之间存在巨大差距。OpenAI发言人则认为，这类专家压力测试并不会“显著提升某人造成现实伤害的能力”。
生物恐怖风险并非仅限于未来的AI模型。美国政府支持的兰德公司2025年报告指出，2024年发布的前沿AI模型“能够在多种病毒的制造和攻击过程中，为非专业人士提供指导，从而实质性地助长生物武器的发展”。
总体来看，虽然AI促成的大规模生物恐怖事件发生的可能性极低，但令人不安的是，动机明确的生物恐怖分子无需费力即可获取相关信息。
更多关于聊天机器人的内容： 某些聊天机器人导致AI精神病风险更高，研究发现
