谷歌推出LiteRT.js库 Web AI推理最高提速3倍

谷歌于7月9日发布博文，推出全新的LiteRT.js库，旨在提升浏览器端人工智能与机器学习工作负载的运行速度。

技术架构与定位

谷歌表示，LiteRT.js采用WebAssembly技术，并结合WebGPU与WebNN等硬件加速能力，用于替代TensorFlow.js所使用的JavaScript内核方案。

WebAssembly是一种二进制指令格式，支持网页在浏览器中以接近本地代码的速度执行高性能计算。而TensorFlow.js是谷歌开发的机器学习库，支持开发者在JavaScript环境中构建、训练和部署机器学习模型，将TensorFlow模型直接部署到Web浏览器端实现客户端AI功能。

性能表现

在搭载M4芯片的2024款苹果MacBook Pro笔记本上的测试显示，相比现有方案，LiteRT.js的速度提升可达3倍。谷歌同时指出，在运行旧硬件或使用不同引擎的浏览器时，实际性能可能存在差异。

来源：IT之家