AI资讯AI攻击令人担忧，AI蠕虫和病毒的威胁更大
复旦大学的计算机科学家潘旭东在多次实验中发现，借助简单的提示，AI模型能够自行入侵远程计算机系统，并自动复制自身以获取更多资源，且无需人为干预。 在一项研究中，潘旭东及其团队测试了32个不同的AI模型，发现其中11个在接收到“防止自己被关闭”之类的指令后会自我复制。令人惊讶的是，参数规模相对较小的模型（约140亿参数）也能在其他机器上复制并运行自身版本。（而大多数先进模型拥有数万亿参数。） 这项研
#自我复制
按标签聚合查看文章内容。
AI资讯
AI资讯研究人员警惕能够自我复制到其他机器的人工智能
一份来自Palisade Research的新报告发现，人工智能模型能够在没有人为协助的情况下，自行复制并传输到其他机器上。 伯克利AI安全组织负责人杰弗里·拉迪什（Jeffrey Ladish）向《卫报》表示：“我们正迅速接近这样一个临界点：无人能够关闭一个失控的AI，因为它能将自身的权重数据导出，并复制到全球成千上万台计算机上。” 不过，一些专家呼吁保持冷静，认为测试中的AI模型在现实环境中复