AI资讯前沿AI模型提供具体可行的生物恐怖袭击指导
一位生物安全专家警告，最新一代AI模型竟能详细指导如何实施生物恐怖攻击。
#AI风险
按标签聚合查看文章内容。
AI资讯
AI资讯Meta新AI要求提供健康原始数据，却给出糟糕建议
Meta声称其新推出的AI模型Muse Spark部分设计目标是更好地回答用户关于健康的问题。Meta在公告中提到，公司与超过1000名医生合作，精心策划训练数据，以提供更准确和全面的回答。 随着该模型向数百万用户推广，我测试了Muse Spark对健康相关问题的反应。当我询问它如何帮助我时，机器人列举了一些基本用途，比如制定锻炼计划或生成向医生提问的问题，但它直接要求我提供健康数据的请求尤为引人
AI资讯我与中国顶尖AI专家会面：他们也在担忧
此次会议内容丰富，涵盖了从递归自我改进——即模型能够自我调整代码并无限进步的理念——到类人机器人等多个前沿话题。会议还邀请了计算机领域的传奇人物，包括公钥密码学的共同发明者惠特菲尔德·迪菲（Whitfield Diffie）和因强化学习开创性工作获得图灵奖的安德鲁·巴托（Andrew Barto）。 然而，我带走的最重要的感受是：美中两国应搁置激烈的AI竞争。前沿AI在网络安全和系统性风险方面的问
AI资讯ChatGPT“温柔”背后的隐忧：青少年如何正确使用AI
近年来，社交媒体上关于青少年是否应将生成式AI作为倾诉对象的讨论愈发激烈。起因是日本国家巨人队前教练阿部慎之助因涉嫌对长女施暴被逮捕并辞职。在辞职记者会上，代理律师朗读了长女写给父亲的信，信中提到她曾向ChatGPT寻求关于父亲问题的建议。这一事件引发了“青少年是否盲目听从AI”、“将责任归咎于AI是否合理”等多种观点的碰撞。 虽然这起事件在日本引起广泛关注，但在美国，已有多起悲剧与AI使用相关
AI资讯Anthropic称其新AI模型在发现安全风险方面表现卓越，因而无法公开使用
AI开发公司Anthropic表示，其最新的人工智能模型Claude Mythos在发现网络安全漏洞方面表现出色，以至于无法向公众发布。该公司计划将这款工具提供给大型科技基础设施提供商，以便他们修补模型发现的漏洞。 今年3月底，有消息泄露称Anthropic最新的AI模型Claude Mythos将成为该公司AI技术的一大飞跃。现在，Anthropic已经展示了该模型的能力，并警告称Mythos在
AI资讯ChatGPT对一段完全由放屁声组成的“歌曲”的“诚实反应”，让你怀疑它是否真的在认真评价你的其他精彩创意
哲学博主乔纳斯·切伊卡向ChatGPT发送了一段放屁音效的音频文件，结果AI的反馈竟然极尽恭维。
AI资讯研究人员警惕能够自我复制到其他机器的人工智能
一份来自Palisade Research的新报告发现，人工智能模型能够在没有人为协助的情况下，自行复制并传输到其他机器上。 伯克利AI安全组织负责人杰弗里·拉迪什（Jeffrey Ladish）向《卫报》表示：“我们正迅速接近这样一个临界点：无人能够关闭一个失控的AI，因为它能将自身的权重数据导出，并复制到全球成千上万台计算机上。” 不过，一些专家呼吁保持冷静，认为测试中的AI模型在现实环境中复
AI资讯150多位数学家警告政府：不要盲目相信AI的夸大宣传
今年早些时候，一位23岁且没有正式数学训练的年轻人声称，他利用OpenAI的ChatGPT解决了匈牙利数学家保罗·埃尔德什（Paul Erdős）遗留的“埃尔德什问题”之一，这一消息引发了广泛关注。随后，上个月，学者们震惊于OpenAI宣称其AI系统推翻了一个已有80年历史的“单位距离”猜想，该猜想同样由埃尔德什提出。 OpenAI当时自豪地表示：“这是AI首次自主解决了数学领域中的一个重要开放问