#生物武器

按标签聚合查看文章内容。

即使没有AI,生物武器研发依然令人忧虑AI资讯

即使没有AI,生物武器研发依然令人忧虑

最近,Anthropic发布的一份“误用”报告揭示了五起外国科学家试图绕过其AI助手Claude关于“功能获得”研究限制的案例。所谓“功能获得”是指科学家通过基因改造使病原体更具传染性、更致命或更易在人类及哺乳动物间传播。Anthropic拒绝了这些请求并关闭了相关账户,尽管这些科学家的动机未必恶意。类似信息也可用于开发疫苗和药物等抗疫措施,这正是问题所在。正如许多技术一样,包括AI,基因工程具有

OpenAI与Anthropic联合签署信函,防止AI开发生物武器AI资讯

OpenAI与Anthropic联合签署信函,防止AI开发生物武器

谷歌DeepMind的Demis Hassabis、OpenAI的Sam Altman、Anthropic的Dario Amodei以及微软AI的Mustafa Suleyman等人共同签署了一封公开信,呼吁制定法律,要求销售合成DNA和RNA的公司对客户和订单进行筛查,以防止基因材料被滥用。 这封信由非党派的进步研究所(Institute for Progress)和偏右的美国创新基金会(Fou

为什么人工智能不太可能通过生物武器毁灭人类AI资讯

为什么人工智能不太可能通过生物武器毁灭人类

近年来,关于失控人工智能可能通过生物武器消灭人类的担忧不断升温。今年夏初,多位人工智能领域的CEO呼吁制定新法规,限制合成DNA的制造。随后,斯坦福大学和Arc研究所的研究人员展示了AI设计新病毒基因组的能力。上周,Anthropic发布报告称,有人试图利用其Claude模型支持生物武器的开发,报告将生物滥用列为“前沿AI模型最严重的风险之一”。CEO达里奥·阿莫代呼吁政府协助AI实验室“跟上技术

人工智能末日可能的真实面貌AI资讯

人工智能末日可能的真实面貌

本期节目中提到的相关文章包括: 中国不接受硅谷呼吁放缓人工智能发展 华盛顿短期内不会监管人工智能 许多人工智能研究者为何担心机器可能会毁灭人类 OpenAI探讨人工智能行业放缓是否符合法律 你可以在Bluesky上关注Brian Barrett(@brbarrett)、Zoë Schiffer(@zoeschiffer)和Leah Feiger(@leahfeiger)。欢迎写信至uncannyv

从黑客攻击到生物武器,Claude滥用现象无处不在AI资讯

从黑客攻击到生物武器,Claude滥用现象无处不在

多年来,这个汇总栏目积累了忠实的粉丝,一些版本甚至成为了病毒式传播的热门内容——这虽然有些奇怪,但网络安全社区本身就既优秀又古怪,所以感觉很合适。请放心,汇总栏目即将迎来全新且令人兴奋的内容,敬请期待!目前,和往常一样,大家务必保持安全。 本周最新研究显示,Meta未能拦截大约350条涉及AI儿童虐待的广告,其中部分广告甚至包含真实儿童的图片。令人震惊的是,其中一则广告中的儿童是欧洲某皇室成员。立

为什么人工智能不太可能通过生物武器毁灭人类AI资讯

为什么人工智能不太可能通过生物武器毁灭人类

近年来,关于失控人工智能可能通过生物武器消灭人类的担忧不断升温。今年夏初,多位AI公司CEO呼吁出台新法规,监管合成DNA的制造。随后,斯坦福大学和Arc研究所的研究人员展示了AI设计新病毒基因组的能力。上周,Anthropic发布报告称,有人试图利用其AI模型Claude支持生物武器的开发,指出生物滥用是前沿AI模型面临的最严重风险之一。CEO达里奥·阿莫代呼吁政府协助AI实验室控制技术发展节奏

为什么人工智能不太可能通过生物武器毁灭人类AI资讯

为什么人工智能不太可能通过生物武器毁灭人类

近年来,关于失控人工智能可能通过生物武器毁灭人类的担忧不断升温。今年夏初,多位人工智能领域的CEO呼吁制定新法规,监管合成DNA的制造。随后,斯坦福大学和Arc研究所的研究人员展示了AI设计新型病毒基因组的能力。上周,Anthropic发布报告称,有人试图利用其AI模型Claude支持生物武器的开发,报告将生物滥用列为“前沿AI模型最严重的风险之一”。CEO达里奥·阿莫代呼吁政府协助AI实验室“掌