AI基础设施公司Runware于周二发布了其模块化数据中心产品——Sonic Inference Pod。该Pod设计为单一可运输单元，代表了一种更灵活的计算方式，可与大型超大规模数据中心项目并存。
Runware表示，Sonic Inference Pod在推理质量上优于其他无服务器推理平台和GPU云服务，且成本更低。其模块化设计使得扩容变得快捷，只需新增Pod即可，无需扩建固定数据中心。Runware联合创始人兼CEO Flaviu Radulescu向TechCrunch表示，这种模式在某种程度上代表了未来的发展方向。
“我们相信分布式计算，靠近终端用户以实现更快推理，是长期胜出的方案，”他指出。除了价格优势，Radulescu还强调Runware系统具备快速扩展和部署能力，可在任何有电力的地方安装，并能迅速适应新硬件发布。Runware的Pods采用闭环冷却系统，无需用水，建造周期仅需数天，而传统数据中心则需数月甚至数年。
“推理需求增长速度远超数据中心建设速度，”Radulescu说。“我们的目标是为全球智能提供动力，成为所有AI模型运行的骨干，确保容量跟上需求，而非限制它。”
目前，Runware在美国、欧洲和亚太地区部署了10个Pods。公司已为包括Higgsfield AI和Wix在内的多家公司提供推理服务，并拥有160个可供Pods运行的站点。去年12月，Runware完成了5000万美元的A轮融资，旨在为企业生成图像提供基础设施支持。公司将Pods的扩展视为其核心使命的一部分：为企业提供推理能力，而非单一产品。
尽管OpenAI和SpaceX等AI实验室仍在美国各地建设大型数据中心，OpenAI甚至接近达成一项价值500亿美元的协议，在俄亥俄州建造数据中心，但Radulescu并不认为这会威胁到Sonic Inference Pods，反而强调Pods的灵活性是其关键优势。
“每个Pod都作为单一网络的一部分运行，用户请求会被分配到最近且有容量的Pod。如果某个Pod离线，流量会自动转移到其他Pod，”他说。“系统故障只会影响单个Pod，而非整个固定设施。需要专用硬件的客户可以独享整个Pod。”
他对其他公司自行构建类似系统也不太担心，认为硬件开发周期长且相关人才稀缺。
“电路板设计中的一个错误可能导致数月的重新设计、仿真、制造、测试和交付延误，”他说。“每一步都需要对各个组件功能及其故障影响有深入理解的人才。”
然而，建设AI数据中心一直是个备受争议的话题，尤其是因为其资源消耗巨大。数据中心所在社区已报告公用事业费用上涨。Runware希望未来能实现使用可再生能源，减少对社区资源的依赖，但这一天尚未到来。
Radulescu表示，AI的电力需求无论如何都会增长，“这是由推理需求驱动，而非供应方决定。”Runware目前关注的是如何满足这部分需求。“没有传输损耗，不用水冷，我们利用现有电力资源，而非要求新建电网容量。以这种方式构建更多推理能力，意味着减少新电网建设和用水量，同时保持相同的计算能力。”
