热点:

    微软ONNX Runtime Web更新 支持WebGPU 提升复杂模型性能

      [  中关村在线 原创  ]   作者:拿铁不加冰

    微软ONNX Runtime Web更新 支持WebGPU 提升复杂模型性能

    近日,微软旗下的 ONNX Runtime Web 进行了更新,引入了 WebGPU 技术,从而提升了复杂机器学习模型在网络浏览器中的运行性能。尽管这项技术仍处于初期阶段,但 Chrome 浏览器和 Edge 浏览器已经提供了初步支持。

    ONNX Runtime Web 是微软开发的一款 JavaScript 库,可以让网络开发人员直接在网络浏览器中部署机器学习模型,并提供基于硬件加速的多种后端支持。WebGPU 则是一种用于为网络应用程序提供硬件加速的接口。

    过去由于计算能力有限,尤其是大型生成模型在网路浏览器中的高效运行受到限制。然而现在有了 WebGPU 的加入,可以释放设备 GPU 的潜力来处理这些任务,并显著提升性能。

    微软表示,“借助计算着色器等先进功能,WebGPU 能够以更高效的方式处理更复杂的机器学习工作负载。”同时它对半精度(FP16)的支持也降低了 GPU 内存使用率和带宽要求,并加快了运算速度。

    利用 GPU 处理并行计算任务的能力,WebGPU 可以直接在网络浏览器中实现更高效率、可扩展性的机器学习应用。目前适用于 Mac、Windows、ChromeOS 的 Chrome 113 和 Edge 113 版本以及 Android 版本的 Chrome 121 已默认包含 WebGPU,开发者可以通过 ONNX Runtime Web 调用该功能。

    值得注意的是,在使用 WebGPU 运行复杂的机器学习模型时,需要更多的资源来支持其高性能表现。因此,在选择合适的工具进行开发之前,开发者应充分考虑网络浏览器设备的硬件配置情况。

    本文属于原创文章,如若转载,请注明来源:微软ONNX Runtime Web更新 支持WebGPU 提升复杂模型性能https://dcdv.zol.com.cn/858/8589183.html

    dcdv.zol.com.cn true https://dcdv.zol.com.cn/858/8589183.html report 1147 近日,微软旗下的 ONNX Runtime Web 进行了更新,引入了 WebGPU 技术,从而提升了复杂机器学习模型在网络浏览器中的运行性能。尽管这项技术仍处于初期阶段,但 Chrome 浏览器和 Edge 浏览器已经提供了初步支持。ONNX Runtime Web 是微软开发的一款 JavaScript 库,可以让...
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐经销商
    投诉欺诈商家: 010-83417888-9185
    • 北京
    • 上海
    • 数码摄像机
    • 新品上市
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错