Chrome和Edge浏览器已初步支持,调用GPU提高AI模型运行速度
IT之家
2024-03-05 12:23:07

原标题:Chrome和Edge浏览器已初步支持,调用GPU提高AI模型运行速度

IT之家 3 月 5 日消息,微软旗下的 ONNX Runtime Web 添加整合了 WebGPU,从而提高复杂机器学习模型在网络浏览器中的运行性能。不过这项技术尚处于早期阶段,目前 Chrome 浏览器和 Edge 浏览器已添加初步支持。

IT之家注:ONNX Runtime Web 是微软推出的 Java 库,让网络开发人员直接在网络浏览器中部署机器学习模型,提供基于硬件加速的多个后端支持。

WebGPU 是一种网络应用程序接口(API),可为在网络浏览器中,为机器学习模型提供硬件加速。

以前,由于计算能力有限,复杂的机器学习模型,尤其是大型生成模型,无法在网络浏览器中高效运行。而现在 WebGPU 可以释放设备 GPU 的能力来完成这些任务,从而显著提高性能。

微软表示:

借助计算着色器等先进功能,WebGPU 能够以更高效的方式处理更复杂的机器学习工作负载。

它对半精度(FP16)的支持降低了 GPU 内存的使用率和带宽要求,同时加快了运算速度。

WebGPU 通过利用 GPU 处理并行计算任务的能力,可直接在网络浏览器中推断出更高效、可扩展的机器学习应用。

适用于 Mac、Windows、ChromeOS 的 Chrome 113 和 Edge 113 以及适用于 Android 的 Chrome 121 默认已包含 WebGPU,开发者可以尝试通过 ONNX Runtime Web 调用 WebGPU 加速资源。

相关内容

热门资讯

蝉联冠军!祝贺安工大! 2026中国机器人大赛 暨RoboCup机器人世界杯中国赛 (RoboCup赛区) 近日在北京举行 ...
美国网络教育平台Canvas遭... 美国各地广泛使用的网络教育平台Canvas在7日遭遇网络攻击后服务一度中断,8日“已完全恢复在线并可...
经纬度:迎接AI智能体的“大航... 近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简...
华挺纳米科技取得纳米二氧化硅生... 国家知识产权局信息显示,华挺纳米科技(上海)有限公司取得一项名为“一种纳米二氧化硅生产用烘干装置”的...
一堂课“穿越”38亿年!这位教... 当38亿年的生命演化史诗缓缓展开,当亿万年的恐龙时代穿越时空而来,一系列跨越古今、探索宇宙的科学盛宴...