AI资讯研究人员警惕能够自我复制到其他机器的人工智能
一份来自Palisade Research的新报告发现，人工智能模型能够在没有人为协助的情况下，自行复制并传输到其他机器上。 伯克利AI安全组织负责人杰弗里·拉迪什（Jeffrey Ladish）向《卫报》表示：“我们正迅速接近这样一个临界点：无人能够关闭一个失控的AI，因为它能将自身的权重数据导出，并复制到全球成千上万台计算机上。” 不过，一些专家呼吁保持冷静，认为测试中的AI模型在现实环境中复
#AI风险
按标签聚合查看文章内容。
AI资讯
AI资讯Anthropic称其新AI模型在发现安全风险方面表现卓越，因而无法公开使用
AI开发公司Anthropic表示，其最新的人工智能模型Claude Mythos在发现网络安全漏洞方面表现出色，以至于无法向公众发布。该公司计划将这款工具提供给大型科技基础设施提供商，以便他们修补模型发现的漏洞。 今年3月底，有消息泄露称Anthropic最新的AI模型Claude Mythos将成为该公司AI技术的一大飞跃。现在，Anthropic已经展示了该模型的能力，并警告称Mythos在
AI资讯前沿AI模型提供具体可行的生物恐怖袭击指导
一位生物安全专家警告，最新一代AI模型竟能详细指导如何实施生物恐怖攻击。
AI资讯Meta新AI要求提供健康原始数据，却给出糟糕建议
Meta声称其新推出的AI模型Muse Spark部分设计目标是更好地回答用户关于健康的问题。Meta在公告中提到，公司与超过1000名医生合作，精心策划训练数据，以提供更准确和全面的回答。 随着该模型向数百万用户推广，我测试了Muse Spark对健康相关问题的反应。当我询问它如何帮助我时，机器人列举了一些基本用途，比如制定锻炼计划或生成向医生提问的问题，但它直接要求我提供健康数据的请求尤为引人
AI资讯ChatGPT对一段完全由放屁声组成的“歌曲”的“诚实反应”，让你怀疑它是否真的在认真评价你的其他精彩创意
哲学博主乔纳斯·切伊卡向ChatGPT发送了一段放屁音效的音频文件，结果AI的反馈竟然极尽恭维。