#大型语言模型

按标签聚合查看文章内容。

10瓦功耗驱动200亿参数大型语言模型的「Amaretti E1.S」AI资讯

10瓦功耗驱动200亿参数大型语言模型的「Amaretti E1.S」

美国Unigen公司于4月13日(当地时间)发布了搭载其自主研发AI加速芯片「EdgeCortix SAKURA-II」的E1.S接口AI加速模块「Amaretti E1.S」。 【11时52分更正】文章最初误称为M.2接口,现已更正为E1.S接口,特此致歉。 Amaretti E1.S是一款功耗仅10瓦,AI处理性能高达60TOPS的E1.S接口AI加速器。它支持最大32GB内存,凭借每瓦6T

日本总务省发布AI安全技术对策指南,面向AI开发者与提供者AI资讯

日本总务省发布AI安全技术对策指南,面向AI开发者与提供者

日本总务省于3月27日发布了面向AI开发者和提供者的《确保AI安全的技术对策指南》。 该指南的发布基于2025年6月内阁决议的《实现数字社会重点计划》。总务省结合自2025年9月起举行的网络安全工作组AI安全分科会的讨论及公众意见征集,制定了本指南,旨在展示确保AI安全的技术对策实例。最终版本于2025年12月完成意见征集后正式公布。 指南内容参考了总务省与日本经济产业省共同制定的《AI企业指南

Meta称AI助力加速新应用开发,更多新品即将发布AI资讯

Meta称AI助力加速新应用开发,更多新品即将发布

Meta正利用人工智能快速推出新应用,未来还将有更多新品问世。在本周的第二季度财报电话会议上,Meta首席执行官马克·扎克伯格表示,公司正在开发多款新应用,继近期发布了面向Marketplace卖家的专用应用、Facebook群组应用、基于vibe编码的游戏应用、Instagram的新照片分享应用以及一个AI睡前故事实验应用之后。 多年来,Meta一直尝试推出独立的社交应用以补充其核心平台,但多次

Ubuntu终于支持利用Ryzen AI NPU进行大型语言模型推理!AI资讯

Ubuntu终于支持利用Ryzen AI NPU进行大型语言模型推理!

大约一年半前,在《Ubuntu日和》第58回中,笔者曾以调侃的方式介绍了如何让Ubuntu识别Ryzen AI的NPU,但当时指出其实并无实用价值。那时只是抱着“总有一天能用上”的期待介绍,然而那一天一直未曾到来。 不过,最近情况终于发生了变化。支持Ryzen AI的框架FastFlowLM现已支持Linux系统,相关版本已发布。同时,AMD开发的本地LLM服务器Lemonade也正式支持Lin

这家初创公司希望让企业软件更像一个提示界面AI资讯

这家初创公司希望让企业软件更像一个提示界面

每一项新技术都会创造一个新的工作环境,但人工智能将如何改变这一点尚不明确。其中一种可能性是界面完全消失。 这正是Josh Sirota的愿景。他于去年八月创立了初创公司Eragon,刚刚完成了1200万美元融资,估值达1亿美元,旨在为企业客户打造一个具备自主代理能力的AI操作系统。 Sirota提出了一个简单的论点:“软件已死。”按钮、对话框和下拉菜单将成为过去,未来的业务将通过提示(prompt

从博士生到AI行业评判者:Arena如何定义人工智能的未来AI资讯

从博士生到AI行业评判者:Arena如何定义人工智能的未来

人工智能模型正迅速增多,竞争异常激烈。在众多参与者争夺市场的情况下,谁将成为最优秀的AI模型?又由谁来评判?Arena(前身为LM Arena)已成为前沿大型语言模型(LLM)的事实公共排行榜,影响着资金投入、产品发布和公关周期。短短七个月内,这家初创公司从加州大学伯克利分校的博士研究项目,成长为估值达17亿美元的独角兽。 在TechCrunch的Equity播客最新一期中,记者Rebecca B

Kog深入挖掘GPU潜力,提升AI推理速度AI资讯

Kog深入挖掘GPU潜力,提升AI推理速度

AI推理速度的竞赛正如火如荼地进行中,Cerebras凭借其专用芯片在今年五月的IPO中获得了市场的热烈欢迎。然而,法国初创公司Kog则认为,传统GPU仍有巨大的潜力可以挖掘。 今年五月,Kog在Hacker News首页发布了一项技术预览,展示了“在企业现有的标准数据中心GPU上实现极快的单请求解码”的可能性,演示中使用了AMD MI300X和Nvidia H200 GPU。 虽然部分人对其未能

SpaceXAI发布Grok 4.5,埃隆称其为“Opus级模型”AI资讯

SpaceXAI发布Grok 4.5,埃隆称其为“Opus级模型”

SpaceXAI近日推出了最新的AI模型Grok 4.5,这是公司上市后发布的首个新版本。 在周三发布的官方博客中,SpaceXAI将Grok 4.5描述为一款多面手,能够完成AI行业普遍追求自动化的各类任务,包括编程与应用开发、办公文书、研究、写作以及其他常规知识工作。 据称,Grok 4.5在成本上也更具优势,SpaceXAI表示该模型的“令牌效率是其他领先模型的两倍”。如果这一效率在实际应用