PrismML发布Bonsai 2 27B模型

PrismML于9月17日推出Ternary Bonsai 2 27B模型,基于阿里Qwen3.8 27B,通过三元权重压缩至5.9GB,支持手机等端侧设备运行,保留98.2%基准性能,上下文窗口262K,支持文本与图像输入,Apache 2.0开源。模型在NVIDIA GPU与Apple MLX平台可用,性能较前代Bonsai 27B显著提升。

该压缩技术将27B级模型部署门槛大幅降低,加速本地AI应用落地。

信源:https://prismml.com/news/bonsai-2-27b

📤 分享这篇文章

𝕏 X 分享in LinkedIn

点击”分享微信好友”→ 长按图片发到微信