AI资讯为什么人工智能不太可能通过生物武器毁灭人类
近年来，关于失控人工智能可能通过生物武器消灭人类的担忧不断升温。今年夏初，多位人工智能领域的CEO呼吁制定新法规，限制合成DNA的制造。随后，斯坦福大学和Arc研究所的研究人员展示了AI设计新病毒基因组的能力。上周，Anthropic发布报告称，有人试图利用其Claude模型支持生物武器的开发，报告将生物滥用列为“前沿AI模型最严重的风险之一”。CEO达里奥·阿莫代呼吁政府协助AI实验室“跟上技术
#生物安全
按标签聚合查看文章内容。
AI资讯
AI资讯前沿AI模型提供具体可行的生物恐怖袭击指导
一位生物安全专家警告，最新一代AI模型竟能详细指导如何实施生物恐怖攻击。
AI资讯OpenAI与Anthropic联合签署信函，防止AI开发生物武器
谷歌DeepMind的Demis Hassabis、OpenAI的Sam Altman、Anthropic的Dario Amodei以及微软AI的Mustafa Suleyman等人共同签署了一封公开信，呼吁制定法律，要求销售合成DNA和RNA的公司对客户和订单进行筛查，以防止基因材料被滥用。 这封信由非党派的进步研究所（Institute for Progress）和偏右的美国创新基金会（Fou
AI资讯人工智能领袖呼吁制定合成DNA监管规则以降低生物武器风险
多位人工智能行业领袖联合呼吁政府加强对合成DNA的监管，防止技术被用于制造生物武器。
AI资讯AI模型首次设计出全新自然界未知病毒
科学家首次利用人工智能模型创造出全新且可行的病毒，这些病毒在自然界中从未被发现过。值得注意的是，这项研究中设计的病毒仅针对细菌，对人类无害。此类病毒被称为噬菌体，是对抗耐药病原体的重要医疗手段。 这项发表在《科学》杂志上的研究由斯坦福大学和Arc研究所的团队完成。他们训练了一款名为Evo的AI模型，识别自然界中基因结构的模式，从而创造出新的DNA分子。随后，这些DNA分子被植入细菌体内，经过一段时
AI资讯网络安全专家对Anthropic Fable的限制措施表示不满
Anthropic于周二发布了其最新模型Fable，定位为其强大且备受关注的网络安全模型Mythos的公开且有限版本。 然而，并非所有人都对这些限制感到满意，许多网络安全研究人员和专业人士在网上表达了他们的抱怨。 知名安全研究员、IBM X-Force成员Valentina “Chompie” Palmiotti表示：“Fable会拒绝任何可能与网络安全相关的请求，甚至是阅读博客文章这样无害的任务
AI资讯为什么人工智能不太可能通过生物武器毁灭人类
近年来，关于失控人工智能可能通过生物武器消灭人类的担忧不断升温。今年夏初，多位AI公司CEO呼吁出台新法规，监管合成DNA的制造。随后，斯坦福大学和Arc研究所的研究人员展示了AI设计新病毒基因组的能力。上周，Anthropic发布报告称，有人试图利用其AI模型Claude支持生物武器的开发，指出生物滥用是前沿AI模型面临的最严重风险之一。CEO达里奥·阿莫代呼吁政府协助AI实验室控制技术发展节奏
AI资讯为什么人工智能不太可能通过生物武器毁灭人类
近年来，关于失控人工智能可能通过生物武器毁灭人类的担忧不断升温。今年夏初，多位人工智能领域的CEO呼吁制定新法规，监管合成DNA的制造。随后，斯坦福大学和Arc研究所的研究人员展示了AI设计新型病毒基因组的能力。上周，Anthropic发布报告称，有人试图利用其AI模型Claude支持生物武器的开发，报告将生物滥用列为“前沿AI模型最严重的风险之一”。CEO达里奥·阿莫代呼吁政府协助AI实验室“掌