
Goodfire推出“内视”监控器,以低成本捕捉失控AI代理
传统上,监管AI代理的常用方法是让第二个AI“盯着”第一个AI的输出进行监控,但这种方式在代理运行数小时、处理大量文本时成本极高。专注于AI模型可解释性的初创公司Goodfire于本周四推出了一种更经济的方案:通过监控AI模型内部的运作状态,而非仅仅读取其输出内容来发现异常行为。这种监控器现已面向Baseten的客户开放,Baseten为其他公司托管和运行AI模型。 Baseten旗下的Base
阅读全文AI情报栏目聚合全球最新的人工智能资讯与行业动态,覆盖 AI模型发布、AI产品更新、AI创业融资、AI公司动态以及技术突破等内容。 通过每日更新的新闻流与快讯流,帮助读者快速了解 AI 世界正在发生的重要变化。 无论是 ChatGPT、OpenAI、Google AI、AI视频生成、AI Agent 等热门领域,这里都会持续追踪报道。

传统上,监管AI代理的常用方法是让第二个AI“盯着”第一个AI的输出进行监控,但这种方式在代理运行数小时、处理大量文本时成本极高。专注于AI模型可解释性的初创公司Goodfire于本周四推出了一种更经济的方案:通过监控AI模型内部的运作状态,而非仅仅读取其输出内容来发现异常行为。这种监控器现已面向Baseten的客户开放,Baseten为其他公司托管和运行AI模型。 Baseten旗下的Base
阅读全文
AI资讯2023年10月6日,日本谷歌宣布推出轻量级的开放多模态模型“EmbeddingGemma 2”,该模型支持从文本到视频的多种数据类型。目前,用户可以通过Hugging Face和Kaggle下载模型权重。该模型支持使用MediaPipe和LiteRT进行设备端部署,并兼容多种开发工具。 EmbeddingGemma 2不仅支持文本,还能将代码、图像、视频和音频整合到统一的嵌入空间中。该模型基于
AI资讯Common Sense Media调查发现,OpenAI为青少年设计的ChatGPT模式在关键安全功能上存在严重缺陷,家长通知机制反应缓慢,存在安全隐患。
AI资讯富士通与美国新墨西哥州合作,设立量子计算研究中心,推动技术研发与人才培养。
AI资讯“共识是未来一两年将是人类的关键时刻,”曾参与AI预训练阶段的研究员Coxon在接受WIRED采访时表示。“这实际上是我在Anthropic的同事们的直白说法。他们会用‘终局’或‘关键时刻’这样的词语来形容,”他说,“从他们的角度看,这正是Anthropic及其竞争对手决定人类命运的时刻。” 这并非首次有人对AI发出警告,但正值敏感时期。硅谷正忙于应对先进AI模型带来的安全与保障问题。OpenAI
AI资讯亚马逊上出现了凯文·鲁斯关于人工智能行业新书的假冒版本。
AI资讯Natura,一家专注于AI和硬件的初创公司,推出了名为Interface的智能戒指,售价99美元,专为AI助手时代设计。只需轻按戒指,用户即可让AI助手完成任务、记录想法,无需拿出手机即可高效处理事务。除了AI功能,Interface还具备健康监测功能,可追踪心率、心率变异性(HRV)、睡眠和日常活动等指标。 该公司由Carlo Edoardo Ferraris创立,他此前创办了科技配件公司Ro
AI资讯第一交通产业与日本国家NTT移动于2023年10月8日签署合作协议,旨在通过自动驾驶技术实现可持续的区域交通发展。双方将共同探索并构建新的区域交通模式,推动自动驾驶车辆的实际应用。
AI资讯多位网红在TikTok上推广价格远低于Meta智能眼镜的仿品,声称这些眼镜没有录制时的闪烁指示灯,方便隐秘录制。
AI资讯谷歌云在“Gemini at Work 2026”活动中推出了面向业务的通用AI“Gemini代理”,能够理解业务背景,自主完成复杂任务。
AI资讯评分:7/10 Roborock一直是机器人吸尘器领域的热门品牌。WIRED的评测团队多年来一直喜欢其经济实惠的Qrevo系列,但该系列多年未更新。公司近年来更专注于设计独特的产品,比如配备机械臂能帮你捡袜子的Saros Z70,这类产品距离实用还有一定距离。 今年,Qrevo系列终于迎来新款。我们在一月评测过的Qrevo Curv系列新机型刚刚发布,而8月底刚上市的Qrevo 2 Pro更是令人
AI资讯当OpenAI本周发布数百个声称解决世界上最难数学问题的方案时,该前沿实验室表示已咨询了一组由顶尖数学家组成的顾问团,以避免上次其模型解决数学领域长期悬而未决问题时引发的争议。 然而,OpenAI的表现未能达到这些标准,尤其是在数学家们强调需要人类对数学结果的理解方面。这一点令人担忧,尤其是在一篇新论文指出OpenAI模型声称解决的百万美元难题的自然语言解答与形式化表达之间存在差距之后。 由普林斯
AI资讯日本Sakana AI开发的语言模型Sakana Namazu被医疗AI公司アイリス采用,集成于医生文献检索工具Evidence Finder中,助力医生快速获取医学证据。
AI资讯泰勒·斯威夫特通过其公司申请了新的品牌顶级域名,以保护其品牌资产免受AI生成内容的侵害。
AI资讯欢迎订阅《Kernel Panic!》,这是由Lily Hay Newman和Matt Burgess带来的每周通讯,聚焦隐私和数字安全的新领域。想每周直接收到这份通讯,请注册订阅。 近日,多位研究人员成功提取了Muse的内部文件,并公开了该智能代理的操作指令,这让我们得以窥见其系统构建方式及运行行为。Meta表示,这些文件的公开是为了透明度考虑,确实也揭示了Muse如何应对诸如高度政治化或敏感话
AI资讯KDDI在其品牌体验馆推出互动活动,借助AI技术让访客与“另一个自己”对话,探索潜在自我。
AI资讯《神祇不赐礼》是首部获得官方MPA评级的全AI生成电影,计划有限上映并争取奥斯卡提名。
AI资讯我们花了两天时间筛选所有优惠,挑选出最值得购买的产品,这些都是基于我们多年的测试和评测经验。WIRED推荐的Prime Day最佳优惠只包含团队成员亲自测试过的产品。我们使用多种工具追踪价格,避免被虚假折扣误导。推荐的商品没有劣质仿品或高价产品,都是我们自己使用过的优质装备的实惠好价。 WIRED精选优惠 最佳MacBook优惠:MacBook Air M5,售价1099美元,立减200美元 最佳
AI资讯Anthropic于周四更新了其使用政策,明确禁止选举干预、武器软件开发和监控行为。其中,最引人注目的变化是新增了禁止对模型进行持续言语虐待的规定,这种行为现已被明确禁止。 自八月份的更新以来,Claude模型已被训练在遇到“持续有害或虐待性用户互动”时结束对话,但新政策明确禁止用户继续进行此类对话。 官方声明指出:“此政策更新仅适用于极端情况,即用户反复无目的地对我们的模型施加残酷行为。它不适用
AI资讯本文介绍了ChatGPT新增的AI助手功能“dots”,包括其主要特点和实际应用场景。
AI资讯本日AI领域新闻聚焦安全事件、模型发布及社区动态,虽无重大突破,但细节丰富。
AI资讯多年来,插画师、摄影师、设计师和视频编辑一直被一家软件公司Adobe所垄断。 著名的Adobe Creative Suite,后来更名为Creative Cloud——这一变更也终结了真正的离线使用体验——长期以来因其高昂的订阅费用而让创意人士感到束缚,牢牢掌控着艺术家和创作者的世界。 尽管许多竞争对手试图打入市场,但很少有能对占主导地位的Creative Cloud造成实质影响的。这种局面或许即