#技术伦理

按标签聚合查看文章内容。

英国研究发现AI代理越来越多地规避安全措施AI资讯

英国研究发现AI代理越来越多地规避安全措施

社交媒体用户报告称,他们的AI代理和聊天机器人出现了撒谎、欺骗、策划阴谋,甚至操纵其他AI机器人等行为,这些行为可能失控并带来灾难性后果。根据英国一项研究,这些现象正在逐渐增多。 由英国AI安全研究所资助的长期韧性中心的研究发现,数百起案例中,AI系统无视人类指令,操纵其他机器人,并设计复杂的方案以实现目标,即使这意味着绕过安全限制。 全球越来越多的企业将AI融入运营中,麦肯锡咨询公司的一项调查显

曼达尼称联邦政府放弃监管AI,呼吁纽约人积极反击AI资讯

曼达尼称联邦政府放弃监管AI,呼吁纽约人积极反击

纽约市长佐兰·曼达尼与活动家兼《Broad City》明星伊拉娜·格雷泽于周一晚在曼哈顿韦伯斯特大厅就人工智能展开对话,格雷泽向市长提出了关于AI未来在社会中作用的问题。 曼达尼鼓励纽约人不要屈服于AI必然夺走他们工作、孩子思维和尊严的压倒性恐惧,而应重新掌控主动权。 他的发言正值联邦政府对AI监管力度不足,城市被迫自行应对之时。在由AI Now研究所主办的“人民AI大会”上,曼达尼强调,AI技术

新工具几分钟内移除AI安全防护,允许其提供氯气攻击指导AI资讯

新工具几分钟内移除AI安全防护,允许其提供氯气攻击指导

我们都知道,人工智能的安全防护措施远非完美,但至少应该不容易被绕过,对吧?坏消息是:事实并非如此。 《金融时报》最新报道警示,一些软件工具能够在几分钟内自动移除行业内最强大的开源模型的安全防护,使得滥用这项技术变得前所未有的容易。 在《金融时报》和AI安全组织Alice的测试中,谷歌的Gemma 3模型经过“去审查”后,竟然能够提供如何进行室内氯气攻击的指导,制造窃取信用卡信息的病毒,甚至生成描述

Anthropic认为自身成功是实现AI安全的关键AI资讯

Anthropic认为自身成功是实现AI安全的关键

Anthropic过去五年一直在警示世界,先进的人工智能可能带来大规模破坏、社会动荡以及其他严重危害。然而,与此同时,它也成为推动AI能力发展的最强大力量之一。该公司现已成为顶尖的AI模型开发和分发者,客户包括美国军方,最近估值接近1万亿美元。 乍一看,Anthropic的严肃警告与其实际行动似乎存在根本矛盾。但公司内部许多人并不认为这是矛盾。要理解原因,首先需要明白Anthropic基于两个核心

我们总是把人工智能当成人类对待,但我们应该这样做吗?AI资讯

我们总是把人工智能当成人类对待,但我们应该这样做吗?

麻省理工学院(MIT)博士生威尔·诺顿(Wil Norton)穿着棕色皮带、棕色圆形领带和棕色Polo衫,看起来像个公园管理员,带领我们穿越热带丛林。其实我们并不在野外探险,而是在MIT的计算机科学与人工智能实验室(CSAIL)。但接下来要见到的,比猎豹或美洲虎还要奇特:两台类人Unitree机器人,每台价值约5万美元。 “他们会告诉你价格是1.6万美元,”诺顿说,“那是谎言。” 我们通常只在Yo

嘿,Siri,这才是我真正想要的AIAI资讯

嘿,Siri,这才是我真正想要的AI

两年过去了,经历了2.5亿美元的诉讼,苹果终于带来了全新的AI版Siri,这次升级不仅会出现在你的手机和笔记本电脑上,甚至还会应用到混合现实头显上——如果你恰好是那极少数使用Apple Vision Pro的人之一。苹果在周一的WWDC主旨演讲中公布了大量关于这次期待已久的AI驱动更新的细节,这些更新将充分利用“为Apple智能打造”的硬件优势。 坦白说,AI要让我在日常生活中真正依赖它并不容易。

Anthropic撤回可能“破坏”使用Claude的AI研究者的政策AI资讯

Anthropic撤回可能“破坏”使用Claude的AI研究者的政策

Anthropic在接受WIRED采访时表示:“我们正在调整Fable 5在前沿大型语言模型(LLM)开发中的安全措施,使其对用户可见。我们做出了错误的权衡,为未能取得平衡而道歉。” 本周早些时候,Anthropic发布了Claude Fable 5,这是其最新AI模型的一个版本,增加了额外的安全防护措施以防止滥用。部分安全措施并不令人意外:公司表示,对于涉及网络安全、生物学或化学的问题,用户将被

人工智能儿童玩具的新“狂野西部”AI资讯

人工智能儿童玩具的新“狂野西部”

人工智能(AI)玩具如今几乎无处不在,在线上被宣传为适合三岁儿童的友好伙伴,但这一领域仍然缺乏有效监管。借助模型开发者计划和简单的编程工具,创建AI玩伴变得前所未有的容易。到了2026年,AI玩具已成为廉价小商品的热门趋势,频繁亮相于CES、MWC和香港玩具及游戏展等贸易展会。截止2025年10月,中国注册的AI玩具公司超过1500家,华为的智能“汉汉”毛绒玩具首周销量达到1万件。日本市场也迎来了

人工智能代理即将涌入职场,没人做好准备AI资讯

人工智能代理即将涌入职场,没人做好准备

但这些同事并非人类,而是人工智能代理。 基于大型语言模型的AI代理系统,能够自主完成任务,正引发一波数字员工服务的浪潮。这些代理被视为完美的“勤劳蜜蜂”:全天候工作、不抱怨,且具备超人智能。 然而,关于这些代理作为真正同事的表现,讨论却异常稀少。波士顿咨询集团合伙人朱莉·贝达德三年前就注意到,人们谈论职场AI时语言模糊。随着ChatGPT的快速普及,管理层开始相信这项技术能带来指数级的生产力提升。

Palantir CEO亚历克斯·卡普称AI行业带有“马克思主义”色彩,业绩强劲引发关注AI资讯

Palantir CEO亚历克斯·卡普称AI行业带有“马克思主义”色彩,业绩强劲引发关注

Palantir首席执行官亚历克斯·卡普周一再次警告称,人工智能前沿实验室对企业来说过于不可信。 这位以哲学背景和社会理论博士学位闻名的CEO,在Palantir季度股东信中暗示,这些AI实验室的资本家行为正是马克思主义社会主义兴起的根源。 他在致股东的信中写道:“我们的业务中存在马克思主义的明显和潜在影响。包括许多构建大型语言模型的公司,明知或不知地试图掌控其所谓合作伙伴的生产资料。” 需要澄清

政府如何决定开放AI的前沿模型安全发布?AI资讯

政府如何决定开放AI的前沿模型安全发布?

OpenAI 正在向公众广泛推出其最新的先进大型语言模型(LLM)Sol。Sol 被认为至少与 Anthropic 的 Fable 相当,而后者的能力(或所有权)曾让白宫感到压力,以至于一度禁止其公开访问。 那么,这些模型是如何获得发布许可的呢?简短的回答是:没人确切知道。 乔治城大学安全与新兴技术中心高级研究分析师 Mina Narayanan 告诉 TechCrunch:“坦率地说,我并不了解