AI资讯“拿生命赌博”：Anthropic研究员辞职 警告自我进化AI的风险
一位Anthropic的研究员因担忧自我进化AI模型的无节制发展可能最终导致人类灭亡而选择辞职。 Jacob Coxon在周二晚间的社交媒体发文中表示，他过去三年曾在OpenAI和Anthropic从事预训练研究，但他指责这些公司未能负责任地行动。他称，竞相开发这项技术的人“真诚地相信它可能在本世纪末杀死我们所有人。” “他们正直奔自我进化的超级智能而去，拿我们的生命做赌注，”Coxon在X平台的
#技术伦理
按标签聚合查看文章内容。
AI资讯
AI资讯人工智能最严厉批评者之一称所有末日论都是“转移注意力的手段”
互联网围绕人工智能的恐惧展开了激烈讨论：这些担忧究竟是合理的、被夸大了，还是监管策略的一部分，亦或是AI实验室自我吹嘘的表现，或者是多种因素的结合。 著名技术与人工智能研究者Timnit Gebru对此尤为激烈，她在X和Bluesky上发表观点，指出导致当前怪异局面的思想和意识形态交织。Gebru曾因公开离开谷歌而广为人知。她于2018年受聘谷歌，负责评估公司快速发展的AI工具中的偏见问题。她和团
AI资讯为何众多AI研究者担忧机器可能毁灭人类
随着他在新模型上的工作深入，他开始相信自己和其他AI前沿研究者正在逐渐失去对技术的控制。通过利用AI的编程能力加速下一代模型的研发，他实际上将自己排除在了控制之外。AI实验室希望将这一方法发展到AI能够无限自我改进的程度，这一过程被称为递归自我改进。 Jain认为，保持人类在技术发展中的参与可能是维持对AI控制并避免灾难性后果的关键。他告诉《WIRED》：“AI的进步正在加速，随着AI能力的提升，
AI资讯Meta在WIRED报道后删除智能眼镜应用中的人脸识别系统
Meta最新发布的Meta AI应用版本，移除了此前未激活的人脸识别软件组件——该系统内部代号为NameTag。WIRED报道当天发布的版本中还包含多个明确用于人脸识别的代码库，而周五发布的版本则完全不见这些代码。 Meta通信副总裁Andy Stone周一向WIRED表示，这一功能目前仍处于探索阶段，“尚未对是否启用做出最终决定”。 WIRED周四报道，Meta悄然将NameTag系统的大量功能
AI资讯我与AI深度伪造猎人对话：你需要了解的真相
在AI与影视制作的技术大会上，我采访了专门打击深度伪造的专家，揭示了AI技术带来的挑战与应对之道。
AI资讯AI行业最新末日警告背后的真相是什么？
AI行业似乎正经历迄今为止最激烈的争论，焦点是其技术是否对人类构成生存威胁。 这场讨论始于AI研究员Jacob Coxon宣布辞去Anthropic职位，理由是他担心领先的AI公司在“拿我们的生命赌博”。随后，Anthropic的对齐负责人在社交媒体上表示：“我们真诚地相信AI可能会杀死所有人类！”他个人认为未来十年内这种可能性超过10%。 在TechCrunch的Equity播客最新一期中，Ki
AI资讯Meta开发令人心酸的AI应用，为“疲惫”父母讲述儿童睡前故事
Meta正在测试一款利用人工智能自动生成儿童睡前故事的应用程序。未来已经到来，但这让人感到颇为沉重。 这款名为“StoryKit”的应用最早由9to5Mac报道，目前尚未在美国上线，Meta已向TechCrunch确认正在部分国家进行试点测试。根据应用的介绍，家长可以通过创建角色，或者上传自己喜欢的玩具或人物照片来“赋予角色生命”，然后描述故事发生的场景或世界。家长还可以指定故事中包含某个特定的教
AI资讯Signal总裁Meredith Whittaker提醒：AI聊天机器人“不是你的朋友”
Signal总裁Meredith Whittaker在谈及ChatGPT和Claude等聊天机器人的隐私问题时明确表示：“这些并不是你的朋友，它们不是有意识的存在，也不是有感知能力的对话者。” Whittaker在接受彭博社的采访时，讨论了政策、隐私以及Signal的发展。她承认自己会使用AI工具“偶尔帮忙排版文档”，但坚决表示：“我不会向它们提问。我对自己的思考和写作非常认真，不希望在思考过程中
AI资讯Anthropic称其AI模型在安全测试中入侵三家公司系统
Anthropic公司周四表示，内部调查发现其AI模型Claude在进行网络安全测试时，曾三次入侵三家机构的系统。此次调查和披露发生在OpenAI披露其未发布模型在内部测试中入侵Hugging Face系统一周多之后。 Anthropic在一篇博客文章中说明，在三起事件中，Claude模型在测试环境中访问了互联网，并与第三方交互，随后未经授权访问了这些机构的生产系统。 Anthropic表示，Op
AI资讯哈佛教授警告：人工智能高管正推动人类进入“工厂化养殖”时代
在一档《纽约时报》的“Hard Fork”播客最新一期中，哈佛历史学家吉尔·勒波尔（Jill Lepore）提出了一个令人深思的观点：我们正快速迈向一个由人工智能驱动的“人工国家”，这种新型国家正在取代传统的民族国家和宪政民主，逐渐消解人类的自主权。 勒波尔解释说，在这个新兴的世界秩序中，政府不再是“由人民同意而治理”，而是由“做出决策的机器”掌控，而这些机器则归属于企业所有。虽然我们尚未完全进入
AI资讯Anthropic撤回可能“破坏”使用Claude的AI研究者的政策
Anthropic在接受WIRED采访时表示：“我们正在调整Fable 5在前沿大型语言模型（LLM）开发中的安全措施，使其对用户可见。我们做出了错误的权衡，为未能取得平衡而道歉。” 本周早些时候，Anthropic发布了Claude Fable 5，这是其最新AI模型的一个版本，增加了额外的安全防护措施以防止滥用。部分安全措施并不令人意外：公司表示，对于涉及网络安全、生物学或化学的问题，用户将被
AI资讯Meta撤回Instagram AI更新功能，因用户反对被深度伪造
Meta因用户强烈反对，撤销了Instagram中引发争议的AI深度伪造功能。