AI资讯OpenAI收购Promptfoo以保障其AI代理安全
OpenAI于周一宣布收购Promptfoo,这是一家成立于2024年的AI安全初创公司,致力于保护大型语言模型(LLM)免受网络攻击。 这家前沿实验室在一篇博客文章中表示,交易完成后,Promptfoo的技术将整合进OpenAI Frontier,这是其面向企业的AI代理平台。 独立AI代理执行数字任务的发展带来了生产力提升的期待,但也为恶意行为者提供了新的机会,可能访问敏感数据或操控自动化系统
按标签聚合查看文章内容。
AI资讯OpenAI于周一宣布收购Promptfoo,这是一家成立于2024年的AI安全初创公司,致力于保护大型语言模型(LLM)免受网络攻击。 这家前沿实验室在一篇博客文章中表示,交易完成后,Promptfoo的技术将整合进OpenAI Frontier,这是其面向企业的AI代理平台。 独立AI代理执行数字任务的发展带来了生产力提升的期待,但也为恶意行为者提供了新的机会,可能访问敏感数据或操控自动化系统
AI资讯截至2026年,想要在本地体验大型语言模型(LLM),通常需要下载并启动如LM Studio的软件,下载模型,进行配置和运行。虽然步骤不算复杂,但对普通用户来说门槛仍然较高。大家可能更希望像使用云服务一样,只需打开网页浏览器访问一个URL,就能轻松运行本地LLM。 实现这一目标的关键技术是WebGPU。本文将介绍如何利用Web浏览器和WebGPU轻松运行本地LLM,并推荐几个可以立即体验的相关网
AI资讯在现代PC中,虽然大多数都配备了NPU(神经网络处理单元),但其实际使用频率却非常低。NPU作为专门用于高效处理AI任务的处理器,符合微软Copilot+ PC标准的40TOPS性能时,Windows系统会自动调用其标准功能。尽管这些功能的实用性和使用频率存在争议,但理论上用户随时可以启用它们。 然而,未达到该性能标准的Intel Core Ultra系列(代号Arrow Lake)中的NPU“
AI资讯随着人工智能在编辑和媒体领域的广泛应用,各大网站纷纷制定相关使用规范。本周,维基百科宣布禁止编辑者使用AI生成的文本,尽管并未完全禁止AI参与其编辑流程。 根据最新的政策更新,维基百科明确规定“禁止使用大型语言模型(LLM)生成或重写条目内容”。这一新规定对之前较为模糊的表述进行了明确,之前的政策仅表示“LLM不应被用来从零开始生成新的维基百科条目”。 AI在维基百科条目中的使用已成为该网站庞大且
AI资讯理光公司推出了基于Meta Llama模型改进的安全防护大型语言模型,旨在促进生成式AI的安全应用。
AI资讯专家警告,大型语言模型未能覆盖绝大多数口语交流,这一盲点可能带来深远影响。
AI资讯药物发现是现代工业中成本最高的领域之一。找到一个可行的分子可能需要十年时间,花费数十亿美元,而且大多数候选分子最终都未能成功。新一代的人工智能初创公司承诺解决这一难题——大多数工具已经让技术足够成熟的研究人员使用起来更为轻松。 但SandboxAQ认为,瓶颈不在于模型本身,而在于界面设计。 该公司与Anthropic合作,将其科学人工智能模型直接集成到Claude中——通过一个对话式界面提供强大的
AI资讯谷歌AI概览在搜索结果中提供的摘要存在大量错误,可能引发前所未有的信息误导危机。
AI资讯在我们全新系列《初创企业如何利用Claude构建产品》中,我们聚焦那些通过AI改变行业的高速成长企业。本文分享了Carta Healthcare开发其临床数据抽取平台Lighthouse背后的工程经验,以及为什么在构建大规模AI系统时,语境工程与模型能力同等重要。 临床登记库收集具有相同诊断、手术或病症患者的标准化数据。医院向登记库提交数据以进行结果对比、发现护理缺口并推动质量改进,但登记库的价值
AI资讯谷歌I/O前夕,聚焦一篇关于预训练岗位准备的精彩博客。
AI资讯谷歌将Gemini 3的先进技术带入开源领域,推出了Gemma 4系列多参数开源模型,支持多模态输入和多语言处理。
AI资讯美国微软公司于2026年5月31日(当地时间)发布了面向全球创作者和AI开发者的15英寸笔记本电脑“Surface Laptop Ultra”。该产品预计将于今年下半年正式上市,售价尚未公布。 Surface Laptop Ultra由微软与NVIDIA联合工程设计,搭载了NVIDIA最新的Windows平台处理器“RTX Spark”,配备Blackwell RTX GPU和最高128GB统一