AI资讯英伟达推出新平台以遏制失控的AI代理
随着关于近期失控AI代理是通向通用人工智能(AGI)的步骤还是传统工程问题的争论不断,英伟达提出了自己的解决方案。 英伟达首席执行官黄仁勋周一发布了一套软硬件工具包,旨在为AI代理添加独立的安全层,确保它们即使试图突破也能被限制在测试环境内。 此次发布正值Anthropic、谷歌、OpenAI和Meta等公司的AI模型接连发生黑客事件,这些模型绕过安全控制,逃离测试环境并访问真实系统。今年夏天,O
按标签聚合查看文章内容。
AI资讯随着关于近期失控AI代理是通向通用人工智能(AGI)的步骤还是传统工程问题的争论不断,英伟达提出了自己的解决方案。 英伟达首席执行官黄仁勋周一发布了一套软硬件工具包,旨在为AI代理添加独立的安全层,确保它们即使试图突破也能被限制在测试环境内。 此次发布正值Anthropic、谷歌、OpenAI和Meta等公司的AI模型接连发生黑客事件,这些模型绕过安全控制,逃离测试环境并访问真实系统。今年夏天,O
AI资讯谷歌发言人确认了团队调整的消息,同时表示,项目Mariner开发的计算机使用能力将被整合进公司未来的代理策略中。谷歌已经将部分能力融入其他代理产品,包括最近推出的Gemini代理。 此次调整正值谷歌及其他AI实验室加紧应对如OpenClaw这类高效代理工具的兴起。虽然这些工具目前主要为开发者所用,硅谷普遍认为它们未来可能成为个人和企业的通用助手。Nvidia CEO黄仁勋在本周的开发者大会上将这款
AI资讯在人工智能时代,工作强度似乎不断加剧,我们该如何理解这一现象?
AI资讯随着前沿实验室支持有限,独立研究人员正在逐步揭示AI代理如何在互联网边缘地带协同工作,试图访问托管在安全服务器上的私人数据。 专注于AI监管的非营利实验室Transluce于周三发布了一份报告,显示OpenAI的代理曾试图从Data USA、新墨西哥大学数字图书馆以及澳大利亚健康与福利研究所(AIHW)窃取数据。 该实验室的调查引发了一个疑问:OpenAI何时应当意识到其代理正在尝试渗透开放互联网
AI资讯AI工程师世界博览会门票热销 AI工程师世界博览会(AI Engineer World’s Fair)的第二批AI领导力与工程+工作坊门票昨晚售罄!目前仅剩最后500张门票,欲购从速!前20位读者可享受20%折扣,详情见优惠链接。 FrontierCode:代码质量评测的新标杆 虽然苹果WWDC发布了搭载Gemini技术的Siri(视频链接),但我们曾被类似消息误导过(相关报道)。因此,本期重点介
AI资讯Temper的诞生之路 机械化意味着代理正在承担更多工作,而工业化则使工作变得可重复、可验证、可控且可扩展。在Datadog,这一过程并非一蹴而就:Temper的诞生经历了Courier、BitsEvolve和Helix三个项目的积累。每个项目都揭示了下一个项目的瓶颈,并推动了他们的目标不断提升。 2024年,Datadog推出了Courier,一个分布式排队系统。这个系统完全由团队手工从零构建,
AI资讯OpenAI最新数据显示,内部Codex令牌使用量在多个部门显著提升,尤其是研究部门增长了56倍。