Anthropic公司近日透露，他们成功阻止了多起外国科学家利用其AI代理Claude开发可能的生物武器的行为，《纽约时报》对此进行了报道。

这则令人震惊的消息来自Anthropic周四发布的一份详尽报告。该报告发布之际，正值AI安全问题备受关注，尤其是在一名前Anthropic员工指责公司明知其强大AI系统具有破坏性却仍不负责任地开发之后。

报告指出，尽管Anthropic在多个国家限制了其模型的访问权限，但部分科学家仍绕过这些限制，试图掩盖其研究目的以规避安全防护措施。

其中一个案例发生在今年五月，一名科学家请求Claude协助撰写申请书，意图获得国家资助，用于一个令人担忧的项目：设计更具危害性的基孔肯雅病毒突变株。该病毒通过蚊子传播，能引发发热和严重关节疼痛。Anthropic认为，该项目可能在某军事研究机构进行。

Anthropic威胁情报负责人Jacon Klein向《纽约时报》表示：“我们无法确定这项研究是否用于武器化，但军事机构进行功能获得性研究令人担忧。”功能获得性研究指的是增强或赋予生物体及病原体新能力的研究。

公司还记录了另外四起科学家绕过安全措施进行可疑生物研究的事件，并封禁了所有相关账户。尽管无法明确判断这些研究是否为合法科研或生物武器开发，Anthropic选择采取谨慎态度。

Klein补充道：“这并非漫画中那种‘我要制造生物武器杀光所有人’的简单情形，情况极其复杂。”

多年来，AI行业一直警示AI可能被用于制造生物武器的风险，Anthropic的CEO达里奥·阿莫迪也曾在今年早些时候发表长文，承诺不断完善安全防护措施，防止模型协助生物武器研究，并呼吁通过立法和国际合作来降低风险。

尽管Anthropic声称已阻止这些滥用行为，但此消息也引发了外界对其及其他AI公司能否确保技术负责任使用的质疑。公司自身承认其防护措施曾失效，未来可能仍有坏人利用漏洞。

简言之，如果这些国家行为者确实试图制造生物武器，这将是一个严重升级，表明我们正逐步逼近潜在灾难。当然，这还取决于像Anthropic这类通用模型是否足够强大，能够有效协助这些危险行为。在安全争议升温的背景下，Anthropic也曾被指控利用恐惧营销策略夸大自身技术威胁。

部分专家认为，这一威胁已经非常现实。战略风险委员会高级研究员安德鲁·韦伯在报告发布前审阅了内容，他告诉《纽约时报》：“这些发现令人毛骨悚然，显示出国家支持的生物武器开发者正在利用前沿AI模型迅速提升的能力。”

更多AI相关内容：Anthropic正在构建庞大监控系统，监视反AI活动人士并预测其行动。