Hugging Face 于 2026 年 10 月 26 日发布 Transformers 库 5.21.0 版本。该版本新增 MiniCPM-OCR、Flint、UltraVBert 和 Gradium Phonon TTS 四款模型支持。MiniCPM-OCR 沿用 MiniCPM-V 4.6 架构，搭配 SigLIP 视觉编码器与 Qwen3.5 语言模型，专注处理扫描页、截图、收据和表格等文本密集图像。
Flint 是 Recursive 的混合专家语言模型，采用混合注意力机制：多数层使用滑动窗口注意力加旋转位置编码，剩余层使用无位置编码的全注意力；每稀疏层将 Token 路由至 256 个专家中的 6 个，并加入无门控共享专家，前两层保持密集。UltraVBert 将 UltraBERT 文本编码器与 SigLIP 视觉编码器结合，图像处理器默认将每页切分为最多 27 个 512 像素瓦片。
Gradium Phonon TTS 为设备端文本转语音模型族，采用因果变换器读取语音提示与文本，以 12.5 Hz 频率通过单步流头输出 32 维音频潜变量。该版本更新仅记录模型集成代码变更，未包含性能基准测试数据。
信源:https://github.com/huggingface/transformers/releases/tag/v5.21