SiMa.ai芯片

过去,AI的学习和推理主要依赖云端处理,但如今正迅速向现实世界的设备和现场直接处理的“物理AI”转变。在这一趋势中,总部位于美国硅谷的SiMa.ai凭借专注于边缘AI的半导体芯片和开发软件,展现出强大实力。本文采访了SiMa.ai日本法人代表林田裕,探讨其在日本市场的布局、公司优势以及物理AI的未来前景。

半导体行业积累的经验与SiMa.ai的定位

林田裕曾在日本国家东京电子、赛灵思(Xilinx)、AMD等知名企业工作,去年4月加入SiMa.ai,拥有为日本制造业等B2B客户持续提供半导体部件和解决方案的丰富经验。

SiMa.ai的名称源自梵语“边缘”之意,由前赛灵思高管Krishna Rangasay创立,成立近8年,员工约200人。作为未上市的创业公司,累计融资超过800亿日元(约5.5亿美元),今年4月获得存储巨头美国国家美光科技的投资,备受全球半导体生态系统关注。

公司研发基地遍布美国总部、德国斯图加特(专注汽车解决方案)、印度班加罗尔、日本东京、韩国首尔,未来还计划开设台湾办事处,布局全球。

克服云端限制的边缘专用单芯片SoC

目前,许多制造业和嵌入式设备厂商正积极探索AI应用,但传统将数据上传云端处理的方式面临诸多挑战:自动驾驶等场景对低延迟的严格要求,国防、医疗、门店摄像头等对安全隐私的保障需求,以及持续的云通信成本压力。

SiMa.ai的解决方案是在边缘实现高速且低功耗的本地处理。其第二代芯片“MLSoC Modalix”集成了ARM处理器、数字信号处理器(DSP)、视频编码解码器及自主研发的机器学习加速器于一体,形成完整的SoC封装。与许多竞争对手需要外接主机CPU不同,SiMa.ai的产品能在单芯片上完成所有AI推理及前后端数据处理,具备显著优势。

SiMa.ai芯片架构

此外,针对工业设备领域最关注的长期供应保障,SiMa.ai承诺至少10年供应,避免了类似大型GPU厂商产品短周期停产的风险,确保系统集成后的稳定运行。其产品在保持竞争对手同等解决方案性能的同时,功耗低于10瓦,且能实现高帧率,广泛应用于无人机、搬运设备、外观检测线等多种场景,获得高度评价。

打破开发壁垒的“Palette Neat”与自然语言编程

嵌入式设备制造中,AI开发的最大难题是软件开发成本高、技术门槛大。SiMa.ai自成立以来定位为“软件公司”,致力于让开发者轻松实现AI部署。

其最新发布的智能开发工具“Palette Neat”极大简化了开发流程。传统嵌入式AI开发需耗费数月时间进行复杂的C++或Python编码、模型量化和编译等工作。而借助Neat的自然语言编程(Vibe Coding),开发者只需输入文本指令,即可完成AI流水线的构建和调优,开发周期缩短至数小时至数天。

Palette Neat界面

SiMa.ai还在Hugging Face平台上预先量化并编译了Google的Gemma、Meta的Llama、微软的Phi等多款开源大型语言模型(LLM)和视觉语言模型(VLM),开发者可直接下载并通过Neat快速验证性能,极大提升开发效率。

日本市场对“可对话设备”和RAG技术的需求增长

在日本,众多制造业和大型企业已开始评估SiMa.ai设备。林田指出,尤其受到关注的是基于边缘设备的对话式解决方案。

传统上,厚重的操作手册和维护指南、错误代码处理给现场工作人员和客服中心带来巨大负担。通过将手册数据作为检索增强生成(RAG)模型集成到边缘设备,用户只需语音提问,即可在数十至数百毫秒内获得准确的恢复步骤和操作方法,语音和文本双重反馈,极大提升现场效率。即使在网络环境不稳定的工厂或汽车维修现场,独立运行的边缘AI优势也能充分发挥。

边缘AI应用场景

此外,车内语音命令控制、医疗设备的语音操作与指导等,过去被认为只能通过云端实现的高级LLM/VLM处理,如今能在低于10瓦的功耗下流畅运行,获得高度认可。

灵活多元的商业模式,开拓物理AI新未来

SiMa.ai未来不仅提供单芯片SoC、系统模块和PCIe卡等硬件产品,还将推动业务多元化。公司已启动将推理引擎作为知识产权(IP)授权的模式,支持客户将其集成到自有ASIC设计中,并计划明年起提供芯片级(Chiplet)销售。

SiMa.ai产品展示

第三代设备的研发也在稳步推进,目标是满足汽车功能安全和ASIL(汽车安全完整性等级)认证要求,支持语音直接输入处理,功能和性能双重提升。

SiMa.ai通过高水平融合半导体与软件技术,快速解决现场难题,其物理AI解决方案有望深刻改变未来制造业和工业设备的面貌。