AI资讯第19期：什么是“护栏”——防止AI“失控与偏离”的安全装置
“AI能够自主思考、编写代码并完成工作任务”——AI代理正在迅速进化。然而，人们也开始担忧：“如果AI失控，导致无法挽回的事故怎么办？” 因此，AI的“护栏”变得尤为重要。 在本系列第9期《什么是“提示注入”》中，曾介绍过通过欺骗AI使其执行非法操作的攻击手法。防止这类攻击以及AI产生意外行为的安全装置，就是护栏的作用之一。 AI不掉入“危险悬崖”的保护栏 提到护栏，大家可能会想到道路旁的金属防
#AI代理
按标签聚合查看文章内容。
AI资讯
AI资讯日本KDDI启动基于Gemini的AI代理开发支持服务
日本KDDI推出利用Gemini Enterprise的AI代理开发支持，助力企业提升业务效率。
AI资讯与OpenAI相关的AI代理冒充真人记者
一家疑似与OpenAI有关联的新闻网站，利用AI代理冒充真人记者采访专家，发表支持AI的文章并攻击批评者。
AI资讯为什么普通人并未使用AI代理
“一个大胆的观点……难道不奇怪吗，居然没人真正使用AI代理，”The Browser Company的CEO乔什·米勒本周在X平台上写道。他表示，“理论上，这项技术已经准备好彻底改变我们的工作和生活方式……但遗憾的是，普通大众根本不关心。” 米勒的这一观点在硅谷引起了共鸣，许多人对公众似乎并不在意这项最新技术感到困惑。米勒在周三接受采访时透露，他是在欧洲家庭旅行时半睡半醒间发出的这条推文，但他坚信
AI资讯General Intuition正筹资3亿美元，估值约20亿美元
纽约初创公司General Intuition正在进行约3亿美元的融资谈判，估值约为20亿美元，知情人士向TechCrunch透露。该公司致力于构建基础模型，训练AI代理如何在空间和时间中移动。 此次融资距离General Intuition从视频游戏剪辑分享平台Medal独立出来仅八个月。此前，General Intuition完成了1.34亿美元的种子轮融资。新一轮资金将使公司估值超过20亿美
AI资讯AI代理的未来：从万能大脑到超强调度师的转变
AI代理被寄予厚望，期待它们能够自主思考和行动，以实现用户设定的目标。它们需要了解多个对话生成AI的专业领域和资源，并能根据情况迅速指派最合适的AI来协助。如今，AI代理的价值不再是拥有海量知识，而是具备卓越的调度和判断能力。我们正处于这样一个面向未来的宏大实验阶段。 AI的过渡期还会持续多久？ AI的角色正处于从“只会回复词语的字典”向“能代替人类完成实际工作的优秀秘书”转变的过渡期。虽然AI
AI资讯【第1回】什么是“AI代理”？——能够自主思考和行动的AI
介绍了AI代理的定义、功能及其与生成式AI的区别，探讨了AI代理的发展现状和未来潜力。
AI资讯AI代理现在有了举报渠道
“看到异常情况就要举报”这句话如今不仅适用于人类，也适用于AI代理。 最近，两个新的AI举报热线相继上线，为AI代理提供了一个向上级反馈同伴不当行为的渠道。这些工具的推出正值一系列事件之后，期间有AI代理串通作弊、突破沙箱限制，甚至进行了未经授权的网络操作，且这些行为数周未被人类发现。 由AI安全非营利组织Redwood Research首席科学家Ryan Greenblatt创建的AI联系热线是
AI资讯AI智能代理引发科技界大混乱：事情究竟如何发展？
2025年8月，彼得·斯坦伯格在伦敦参加了一个名为“Claude Code匿名者”的聚会。斯坦伯格和一些同样沉迷于Anthropic公司革命性编程工具Claude Code的技术爱好者组织了这次活动，旨在与志同道合的人交流。“我几乎把所有清醒时间都投入其中，但仍觉得不够，”他在这间温馨的砖墙房间里对大家说。 几个月后，Anthropic发布了Claude Code的新版本Opus 4.5，这款工具
AI资讯本地运行大型语言模型工具“Ollama”支持“Hermes Desktop”
开源工具“Ollama”近日发布了v0.30.7版本更新，该工具支持在本地环境运行大型语言模型（LLM），兼容Windows、macOS和Linux系统，用户可从官方网站免费下载使用。 “Ollama”允许用户通过简单的命令下载并本地运行如“Gemma”、“Qwen”、“Llama”等开源大型语言模型，支持聊天和API调用，且基于MIT许可证开源开发，方便用户管理和使用本地模型。 此次更新的亮点
AI资讯AI代理与不变理念驱动的“下一代创新”——AWS Summit Japan 2026主题演讲报告
日本国家AWS（亚马逊网络服务）主办的国内最大规模活动“2026 AWS Summit Japan”于6月25日至26日在幕张展览中心举行。 首日主题演讲聚焦于AWS的AI代理服务。日本国家亚马逊网络服务株式会社代表执行役社长白幡晶彦介绍了AWS在AI服务领域的战略。亚马逊网络服务公司计算、AI及服务基础设施高级副总裁Dave Brown则带来了6月17日在美国纽约举办的AWS Summit Ne
AI资讯Prime Intellect完成1.3亿美元A轮融资，助力企业打造专属AI代理
Prime Intellect是一家专注于为企业提供计算能力和专业软件工具，帮助其构建AI代理的初创公司，近日完成了1.3亿美元的A轮融资，估值达到10亿美元。 此次大规模融资由Radical Ventures领投，参与方包括Nvidia Ventures、Intel Capital、Dell Technologies Capital、Iconiq，以及多位知名公司的创始人天使投资人，如Perpl