英伟达宣布DGX Spark支持八节点集群

英伟达在GTC Berlin宣布DGX Spark正式支持八节点集群,统一内存扩展至1TB,可本地运行GLM 5.3等753B前沿模型。RoCEnante后端将八节点张量并行解码延迟降低,实现4.43倍加速。使用Qwen3.8-27B模型时,解码吞吐量从单节点12 Token/s提升至八节点52 Token/s。八节点集群上从零预训练小型聊天模型达到7.79倍加速,扩展效率达97.4%。NVIDIA Sync和NeMo Switchyard支持多节点设置与模型池路由。

信源:https://developer.nvidia.com/blog/running-frontier-class-ai-models-across-8-nvidia-dgx-spark-nodes/

📤 分享这篇文章

𝕏 X 分享in LinkedIn

点击”分享微信好友”→ 长按图片发到微信

Leave a Reply

Your email address will not be published. Required fields are marked *