英伟达与普林斯顿大学Dao AI Lab推出ReplaySSM，将状态空间模型状态表示为检查点加近期输入缓冲区。该方法把状态内存流量减半，在NVIDIA Blackwell Ultra B300 GPU、批大小256时，SSM解码内核速度提升1.46x至1.80x。在120B级模型上，推测解码吞吐量提高1.85x至2.10x。采用高精度检查点与低精度副本后，三之四模型在GPQA-Diamond基准上与FP32精度差距控制在约2个百分点内。此举针对NVIDIA Nemotron 3、Qwen3.5至Qwen3.8、Kimi-K3及GLM-5.3-Flash等混合模型。
信源:https://developer.nvidia.com/blog/replayssm-rethinking-state-storage-for-faster-hybrid-model-decoding/