AI资讯为什么人工智能不太可能通过生物武器毁灭人类
近年来，关于失控人工智能可能通过生物武器消灭人类的担忧不断升温。今年夏初，多位人工智能领域的CEO呼吁制定新法规，限制合成DNA的制造。随后，斯坦福大学和Arc研究所的研究人员展示了AI设计新病毒基因组的能力。上周，Anthropic发布报告称，有人试图利用其Claude模型支持生物武器的开发，报告将生物滥用列为“前沿AI模型最严重的风险之一”。CEO达里奥·阿莫代呼吁政府协助AI实验室“跟上技术
#技术伦理
按标签聚合查看文章内容。
AI资讯
AI资讯如果人工智能行业遵循自身研究，或许早该暂停发展
2023年9月8日，Anthropic公司的一名年轻员工Jacob Coxon在X平台公开宣布辞职，指责Anthropic及其他前沿AI公司“正竞相开发自我改进的智能，拿我们的生命做赌注”。几乎同时，一位更资深的Anthropic工程师证实，公司内部许多人认为他们的工作有10%的概率会导致人类灭绝。 如今，AI领域的领导者开始呼吁暂停发展，立法者也要求展开调查。Anthropic联合创始人Dari
AI资讯AI公司面临讽刺教训：他们付钱让人改进聊天机器人，结果却是喂给AI“垃圾数据”
对于争夺AI领域霸主地位的科技公司来说，原始且高质量的数据极为珍贵。为了保持支撑我们喜爱AI聊天机器人的大型语言模型的最新状态，这些公司必须不断输入大量新鲜数据。正如一项研究显示，自2010年以来，用于训练AI的数据量每九个月就翻一番，这种指数级增长可能很快会遇到瓶颈，因为干净数据的储备正处于严重短缺状态。 当没有更多原创内容可供挖掘时，企业开始支付给工人以生成新的训练数据，通常提供低质量的合同，
AI资讯Anthropic新广告暗示人工智能可能带来灭顶之灾
Anthropic发布了一则引发争议的广告，暗示人工智能可能对人类构成致命威胁。
AI资讯知识利用还是技术变革？大英百科全书起诉OpenAI
大英百科全书及其子公司韦氏词典起诉OpenAI，指控其未经授权使用受版权保护的内容训练AI模型，这是继起诉Perplexity后的又一起法律行动。
AI资讯跟踪受害者起诉OpenAI，指控ChatGPT助长施暴者妄想并无视警告
一名53岁的硅谷创业者在与ChatGPT进行数月对话后，坚信自己发现了治疗睡眠呼吸暂停的方法，并认为有权势的人在追踪他。根据加州旧金山县高级法院新提起的诉讼，他随后利用该工具跟踪和骚扰他的前女友。 现该前女友起诉OpenAI，称该公司的技术加剧了她遭受的骚扰。据TechCrunch独家获悉，她声称OpenAI无视了三次警告，警告内容显示该用户对他人构成威胁，其中包括内部标记其账户活动涉及大规模杀伤
AI资讯扎克伯格关于AI带来自由的宣言被公司CTO当面驳斥
扎克伯格描绘了一个由AI驱动的自由未来，但其CTO在内部会议中却表达了截然不同的观点。
AI资讯嘿，Siri，我真正想要的AI是什么？
两年过去了，经历了2.5亿美元的诉讼，苹果终于带来了全新的AI Siri升级，这项更新将陆续出现在你的手机、笔记本电脑，甚至是混合现实头显上——如果你恰好是那极少数使用Apple Vision Pro的人之一。苹果在周一的WWDC主题演讲中公布了大量关于这次期待已久的AI驱动更新的信息，这些更新将充分利用“为Apple智能打造”的硬件优势。 坦白说，AI很难让我在日常生活中真正依赖它。我依然不信任
AI资讯Palantir CEO亚历克斯·卡普称AI行业带有“马克思主义”色彩，业绩强劲引发关注
Palantir首席执行官亚历克斯·卡普周一再次警告称，人工智能前沿实验室对企业来说过于不可信。 这位以哲学背景和社会理论博士学位闻名的CEO，在Palantir季度股东信中暗示，这些AI实验室的资本家行为正是马克思主义社会主义兴起的根源。 他在致股东的信中写道：“我们的业务中存在马克思主义的明显和潜在影响。包括许多构建大型语言模型的公司，明知或不知地试图掌控其所谓合作伙伴的生产资料。” 需要澄清
AI资讯Meta在WIRED报道后从智能眼镜应用中删除面部识别系统
Meta最新版本的Meta AI智能眼镜配套应用，移除了内部称为NameTag的面部识别系统中未激活的软件组件。WIRED报道当天发布的版本中，仍包含多个明确用于面部识别的代码库，而周五发布的新版本则完全不见这些代码。 Meta通信副总裁Andy Stone周一告诉WIRED，这项功能目前仅处于探索阶段，并表示：“尚未对是否启用该功能做出最终决定。” WIRED周四报道，Meta悄然将NameTa
AI资讯微软内部文件泄露：计划让用户“上瘾”于其人工智能
微软内部文件显示，公司有意让用户对其新AI助手产生依赖，引发对AI成瘾风险的担忧。
AI资讯亚马逊可使用你的Twitch内容训练AI，除非你选择退出
尽管这一举措让部分创作者感到放心，但目前仍不清楚该直播平台究竟从何时开始使用用户的帖子、直播和视频来训练亚马逊的人工智能系统。这一消息引发了人们对大型科技公司如何处理用户数据的新一轮担忧。 用户可以通过简单的操作选择退出。在Twitch网站或移动应用中，点击账户头像，进入“设置”，然后在菜单中找到“安全与隐私”部分。在这里，你会看到“生成式AI训练”选项，可以关闭该功能，阻止你的内容被用于训练AI