7月9日,谷歌发布LiteRT.js,这是一款基于LiteRT的JavaScript运行时,能让.tflite模型直接在浏览器中以接近原生性能运行,支持XNNPACK CPU加速、ML Drift GPU加速以及即将到来的WebNN NPU支持,性能较此前TensorFlow.js方案提升最高可达3倍,同时实现零服务器成本与本地隐私保护。[[1]](https://developers.googleblog.com/litertjs-googles-high-performance-web-ai-inference/)
这一动作并非孤立。它发生在AI行业从“云端大模型”向“端侧+混合架构”加速迁移的背景下。OpenAI、Anthropic等仍在扩大API依赖,而谷歌通过浏览器层面的优化,直接降低开发者部署门槛,也为苹果、微软等硬件生态的隐私优先叙事提供技术支撑。与Meta此前因隐私争议暂停Muse Image工具形成对比,谷歌选择以性能与本地化为核心,避免了数据外泄风险的舆论焦点。[[2]](https://www.nytimes.com/2026/07/10/technology/meta-muse-images-instagram-removal.html)
从战略看,这强化了谷歌在Web平台与移动端的双重优势。开发者无需额外服务器即可实现实时对象检测、音频处理等功能,对中国等对云服务监管 stricter 的市场尤其友好。长期看,端侧推理的成熟可能重塑“模型即服务”的商业模式,让更多垂直应用转向本地优先。
悬念在于:当WebNN等硬件加速全面落地后,端侧AI是否会成为下一轮算力军备赛的决定性变量,还是仅停留在辅助角色?未来6-12个月的实际部署案例将给出答案。
信源:
https://developers.googleblog.com/litertjs-googles-high-performance-web-ai-inference/ (2026-07-09)
https://gigazine.net/gsc_news/en/20260710-google-litert-js/ (2026-07-10)
