IT商业网-解读信息时代的商业变革
当前位置: 首页 > 软件 > 正文

微软ONNX Runtime Web整合WebGPU

2024-03-06 08:20:01     

  在提升网络浏览器性能的不懈努力中,微软旗下的ONNX Runtime Web近日宣布整合了WebGPU,这一举措旨在提高复杂机器学习模型在网络浏览器中的运行性能。让我们一起来了解这项技术的重要性和影响。

  ONNX Runtime Web简介

  ONNX Runtime Web是微软推出的JavaScript库,旨在让网络开发人员能够直接在网络浏览器中部署机器学习模型。这个库提供了基于硬件加速的多个后端支持,为开发者提供了更灵活、更高效的部署方式。

  WebGPU的作用

  WebGPU是一种网络应用程序接口(API),它为在网络浏览器中运行的机器学习模型提供了硬件加速。过去,由于网络浏览器的计算能力有限,复杂的机器学习模型,特别是大型生成模型,无法在其中高效地运行。而WebGPU的出现,则释放了设备GPU的能力,使这些任务能够得到更好的执行,并显著提高了性能。

  微软的表态

  微软表示,WebGPU通过利用计算着色器等先进功能,能够更高效地处理复杂的机器学习工作负载。它对半精度(FP16)的支持降低了GPU内存的使用率和带宽要求,同时加快了运算速度。通过利用GPU处理并行计算任务的能力,WebGPU能够直接在网络浏览器中推断出更高效、可扩展的机器学习应用。

  浏览器支持

  目前,适用于Mac、Windows、ChromeOS的Chrome 113和Edge 113,以及适用于Android的Chrome 121,默认已包含WebGPU。开发者可以通过ONNX Runtime Web调用WebGPU加速资源,以提升他们在网络浏览器中的机器学习模型的性能。

  随着微软ONNX Runtime Web整合WebGPU,网络浏览器将迎来更加高效、强大的机器学习模型执行能力。这一技术的推出将为网络开发人员带来更多创新和应用可能,同时也将推动网络浏览器的性能和功能进一步提升。

免责声明: IT商业新闻网遵守行业规则,本站所转载的稿件都标注作者和来源。 IT商业新闻网原创文章,请转载时务必注明文章作者和来源“IT商业新闻网”, 不尊重本站原创的行为将受到IT商业新闻网的追责,转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:post@itxinwen.com
微信公众号:您想你获取IT商业新闻网最新原创内容, 请在微信公众号中搜索“IT商业网”或者搜索微信号:itxinwen,或用扫描左侧微信二维码。 即可添加关注。
标签:

品牌、内容合作请点这里: 寻求合作 ››

相关阅读RELEVANT