全部文章

按时间排序浏览最新内容。

使用两台NVIDIA DGX Spark实现LLM推理速度提升1.8倍,llama.cpp支持NCCL通信AI资讯

使用两台NVIDIA DGX Spark实现LLM推理速度提升1.8倍,llama.cpp支持NCCL通信

NVIDIA的AI迷你计算机「DGX Spark」通过连接两台设备,LLM(大型语言模型)的推理速度可达到单台设备的约1.8倍。美国时间11月4日,ggml-org发布了本地LLM推理引擎「llama.cpp v0.9.0」。该版本更新了内部使用的张量运算库「ggml」至v0.29.0,新增了在多台机器间进行张量并行推理时,支持使用NVIDIA通信库「NCCL」进行通信的功能。 llama.cp

英伟达将调查CEO黄仁勋与疑似中国间谍的关系AI资讯

英伟达将调查CEO黄仁勋与疑似中国间谍的关系

英伟达董事会于周日宣布,将针对有关CEO黄仁勋被中国间谍行动盯上的报道展开独立调查。 英伟达同时发布了黄仁勋致公司的一封信,信中他承认与新加坡芯片公司Megaspeed前高管Alice Huang有过婚外情,尽管信中未直接提及她的名字。今年早些时候在美国政策制定者中流传的一份备忘录称,Alice Huang被中国国家安全部招募,目的是监视英伟达CEO。 黄仁勋在信中写道:“我欠家人和大家一个道歉。

黄仁勋的职位岌岌可危?耶鲁教授Jeffrey Sonnenfeld估计概率约为五五开AI资讯

黄仁勋的职位岌岌可危?耶鲁教授Jeffrey Sonnenfeld估计概率约为五五开

英伟达董事会于周日宣布,将启动一项独立调查,此前CEO黄仁勋向员工坦承对妻子不忠。然而,这不仅仅是一起普通的婚外情事件。涉事对象是Megaspeed高管Alice Huang,美国官员怀疑她是为中国间谍,向北京传递情报。鉴于众多科技和金融合作伙伴依赖英伟达在AI经济中的核心地位,此事的影响远超公司本身。黄仁勋曾对彭博表示:“我负责着整个行业。” 中国驻华盛顿大使馆发言人在十月底驳斥了相关指控,称其

日本红帽与NVIDIA携手加强代理型AI的安全防护AI资讯

日本红帽与NVIDIA携手加强代理型AI的安全防护

日本红帽公司于11月9日宣布,将进一步深化与日本NVIDIA公司的合作关系。 此次合作旨在利用AI解决方案“Red Hat AI Factory with NVIDIA”,加速在开放混合云环境中引入注重安全性的企业级代理型AI。双方通过结合代理的安全功能、优化的模型部署架构以及先进的硬件支持,帮助组织在可靠的安全保障和严格的治理框架下,构建、部署并扩展自主型AI代理。 为确保企业环境中的安全性和

Automattic推出Spacefast平台,助力vibe编码应用部署,迎接互联网变革AI资讯

Automattic推出Spacefast平台,助力vibe编码应用部署,迎接互联网变革

WordPress作为TechCrunch等网站的重要技术和内容管理系统,一直发挥着关键作用。如今,WordPress.com的母公司Automattic顺应互联网发展的变化,推出了一项名为Spacefast的新服务,旨在帮助用户部署基于vibe编码的网站和应用。 Spacefast为vibe编码应用提供基础设施支持,包括数据库、身份验证、文件上传、邮件和数据分析等功能,使其能够成为功能完善的网站

斯蒂芬·米勒如何策划攀升至权力顶峰AI资讯

斯蒂芬·米勒如何策划攀升至权力顶峰

米勒此前担任政策副幕僚长兼国土安全顾问,他主导了特朗普第二任期内最具争议的政策,尤其是对移民的严厉打击,这些政策甚至导致了美国公民的死亡。 特朗普在其社交平台Truth Social上公开宣布了这一人事变动,称米勒将于周一接替苏西·怀尔斯的职位——这一变动发生在共和党在国会两院选举中惨败、对特朗普政策议程的严厉否定不到一周后。 据两位知情人士透露,近几天来,特朗普私下将共和党中期选举的惨败归咎于怀