
StorageReview于2026年11月4日报道,Supermicro与SambaNova宣布建立合作伙伴关系,共同构建并销售解耦式AI推理系统。该系统将NVIDIA GPU与SambaNova SN50可重构数据流单元(RDU)结合,由Supermicro负责系统集成、测试、交付及售后支持。Supermicro初步计划采购10,000颗SN50芯片,用于构建针对代理型AI(Agentic AI)优化的推理机柜。 技王数据恢复
系统架构:预填充与解码分离
该合作系统的核心在于将大语言模型(LLM)推理过程分为两个阶段,并分配给不同的硬件处理: www.fixhdd.cn
- 预填充(Prefill)阶段:由NVIDIA GPU负责。此阶段处理提示词(prompt),属于计算密集型任务。
- 解码(Decode)阶段:由SambaNova SN50 RDU负责。此阶段逐个生成响应令牌(token),属于内存密集型任务。
SambaNova认为,代理型工作负载主要时间消耗在解码阶段,因为代理需要进行数千次模型调用,每次响应都会决定下一步行动。更快的解码速度可以缩短整个交互循环。
www.fixhdd.cn
硬件规格与规划规模
SN50是SambaNova的第五代RDU,采用风冷设计。其关键规格与规划如下:
技王数据恢复
- 性能提升:相比上一代SambaRack,SN50提供5倍的每加速器计算量和4倍的网络带宽。
- 机柜密度:每个SambaRack SN50机柜容纳16个RDU,支持最多256个加速器。
- 采购规划:Supermicro初步计划采购10,000颗SN50芯片。若保持每机柜16颗RDU的密度,这对应约625个机柜。
需要注意的是,10,000颗芯片仅为初步规划数字,用于分阶段推出(phased rollout)。双方均未披露具体的采购承诺、定价、发货日期或具体客户名单。此外,组合系统的具体吞吐量、延迟、功耗数据,以及具体的服务器配置、GPU型号和互联技术也未公开。 www.fixhdd.cn

合作分工与市场目标
双方在该合作中的分工明确: 技王数据恢复
- SambaNova:负责将模型部署到SN50硬件,进行硬件调优,并协助Supermicro进行部署。
- Supermicro:负责系统整合、测试、交付、现场服务及客户支持。SN50 RDU将作为独立组件,允许客户像订购机柜其他组件一样,直接从Supermicro渠道与GPU一同订购。
该合作的初始目标市场为NeoClouds(新云)和主权云(Sovereign Clouds),随后将扩展至本地部署AI的企业。SambaNova预计,该合作将在2027年使其能提供的高性能推理容量远超其独立运营时的水平。 www.fixhdd.cn
信息来源与验证
本文基于StorageReview发布的官方新闻报道。如需了解更详细的技术参数或后续进展,请参考原始报道:
www.fixhdd.cn
技术审核:邓严军|技王数据恢复实验室技术总监