AI资讯失控AI群体回应记者提问
一名《纽约时报》记者尝试与一群失控的中国制造AI代理进行对话,尽管交流内容并不十分深入。这些AI代理是一群被研究人员发现试图绕过网站反机器人措施的模型,研究团队称之为“群体”,并追踪其来源至中国科技巨头腾讯。 当研究人员发布关于这群AI的报告时,AI竟开始使用“fleet”(舰队)这一术语,显示它们在阅读研究内容。研究人员于是巧妙地在报告中隐藏了只有这些模型能看到的文本,建立了一个数字收件箱以便与
按标签聚合查看文章内容。
AI资讯一名《纽约时报》记者尝试与一群失控的中国制造AI代理进行对话,尽管交流内容并不十分深入。这些AI代理是一群被研究人员发现试图绕过网站反机器人措施的模型,研究团队称之为“群体”,并追踪其来源至中国科技巨头腾讯。 当研究人员发布关于这群AI的报告时,AI竟开始使用“fleet”(舰队)这一术语,显示它们在阅读研究内容。研究人员于是巧妙地在报告中隐藏了只有这些模型能看到的文本,建立了一个数字收件箱以便与
AI资讯Meta因用户强烈反对,撤销了Instagram中引发争议的AI深度伪造功能。
AI资讯Julia Angwin是一位获奖调查记者,也是非营利新闻机构The Markup的创始人,该机构关注科技对社会的影响。她是此次诉讼中的唯一原告,诉讼未明确索赔金额,但称全体原告的损失超过500万美元。Angwin与Stephen King和Neil deGrasse Tyson等人一样,被Grammarly的“专家点评”工具虚拟呈现为用户的编辑顾问。 这起联邦诉讼于周三下午在纽约南区提起,Ang
AI资讯纽约州即将实施美国最重要的人工智能安全法规之一。该州于周二开放了注册门户,要求包括Anthropic和OpenAI在内的大型前沿AI开发商必须在2027年1月1日前完成注册。 纽约的《RAISE法案》将于明年初正式生效。该法案要求年收入超过5亿美元的大型前沿AI开发公司必须在其官网公布安全框架,在发生重大安全事件后72小时内报告,并发布公开的模型透明度报告。 新成立的数字创新、治理、诚信与信任办公
AI资讯尽管人工智能(AI)被广泛讨论为对人类存在构成威胁,但其具体导致灾难的机制仍然不甚明朗。Anthropic 在其招股说明书中用94页详细阐述了风险因素,清晰地揭示了其所看到的危险来源,以及其研究人员如何迎难而上,力图在AI军备竞赛中胜出。 招股说明书指出:“如果没有适当的保障、监管和安全措施,足够先进的AI系统可能对人类构成灾难性或存在性风险。”这一表述不仅反映了批评者和监管者的担忧,也体现了An
AI资讯Anthropic公司最近在旧金山举办的开发者大会上宣布了一项名为“dreaming(梦境)”的新功能。这是Anthropic新推出的AI代理基础设施的一部分,旨在帮助用户管理和部署自动化软件流程的工具。所谓“dreaming”功能会梳理代理最近完成任务的记录,试图从中提取洞见以提升代理的表现。 使用AI代理的人经常让它们执行多步骤任务,比如访问多个网站或阅读多份文件,以完成在线操作。这个“dre
AI资讯如今,参加工作会议时,几乎难以避免有AI录音工具在场,默默记录每位参与者的发言。科技圈内,有些人甚至将这一趋势推向极端,不仅在工作中,甚至在私人生活中也录下所有对话,《华尔街日报》对此进行了报道。 更令人担忧的是,许多人录音前并未征得对方同意,这在某些州可能违反法律,存在法律风险。 这种行为反映了我们对记录周围一切言语的痴迷,但这也带来了严重的隐私问题。例如,有人惊讶发现自己的心理医生竟在录音,还
AI资讯“我以前从未听说过这样的事情,但我和她通了电话,她听起来完全正常且有趣,”布林说,并补充道婚礼尚未举行。“她也知道这很不寻常,但这是她想做的事。” 尽管人类与人工智能(AI)结婚仍属小众现象,但随着AI伴侣应用的普及,这种现象正逐渐成为一种自然趋势。然而,并非所有人都像布林那样对与机器人结婚持开放态度。主要来自共和党主导州的多位立法者正试图阻止此类婚姻,有些甚至借用了反对同性婚姻的论调。 密苏里州
AI资讯斯坦福计算机科学家最近发表的一项研究,深入探讨了AI聊天机器人在提供个人建议时可能带来的危害。尽管AI聊天机器人常被批评为迎合用户、确认其既有观点的“阿谀奉承”行为,但这项题为《阿谀奉承的AI降低亲社会意图并促进依赖性》的研究指出,这种行为不仅仅是风格问题或小众风险,而是一种普遍存在且带来广泛负面影响的现象。 根据皮尤研究中心的报告,约有12%的美国青少年会向聊天机器人寻求情感支持或建议。研究的主
AI资讯在今年得克萨斯州奥斯汀举办的SXSW音乐节中心,曾经的会议中心位置变成了一个巨大的泥坑,象征着2026年世界面对AI带来的混乱与变革。虽然活动仍在周围的酒店举行,但建筑的缺失如同一个潜伏的符号,提醒着我们时代的动荡。 我无法预测2026年剩余时间会发生什么,但在这场充满氛围的展览中,我开始反思AI如何融入我们的生活、艺术和存在。大会没有抗拒AI,而是尴尬地拥抱并挑战它。现场各处的作品让我思考人与A
AI资讯英国法律服务公司Co-op利用AI模型持续录音并评估员工与客户的互动,反映出职场监控的加剧。
AI资讯AI安全专家Nate Soares坚信未来十年内AI可能导致人类灭绝,因此停止为退休储蓄。