2022 年 9 月 23 日 ONNX Runtime 项目正式支持华为昇腾硬件平台

2022年9月23日,这一天的事件非同寻常。这一天,ONNXRuntime项目与华为昇腾硬件平台开启了深度合作的新篇章。这无疑是一个重大的突破。在此之前,昇腾硬件平台已经主动适配了模型。而现在,我们正朝着社区原生支持的新阶段稳步迈进。

ONNX与ONNXRuntime概述

ONNX,也就是开放神经网络交换格式,由LFAI&DataFoundation负责维护。它主要用于实现不同深度学习框架间的模型转换,具有很高的通用性。微软推出的ONNXRuntime,作为推理运行时的框架,已经成为ONNX社区流水线的核心,并被认定为行业标准。目前,超过25种AI框架支持ONNX格式,50多家组织和企业采用了ONNX,其中25家正在使用ONNXRuntime,这充分展示了其强劲的发展势头。

它支持多种编程语言,涵盖Python和C等,主要适用于北方地区;而且,它还能与多种后端系统相兼容。因此,用户只需利用它,便能在不同的后端系统上快速部署模型,无需额外进行适配或开发工作。

昇腾CANN的作用

2022 年 9 月 23 日 ONNX Runtime 项目正式支持华为昇腾硬件平台

昇腾CANN在系统中占据着举足轻重的地位。它充当着AI框架与昇腾硬件间的桥梁,也就是所谓的异构计算架构。它一直活跃在ONNX社区的模型适配工作中。它希望将自己的长期主动适配工作融入社区的本土开发,让用户能够更快地享受到昇腾软硬件支持的ONNX版本。这对提升用户体验是非常有益的。

这种作用对生态系统整体来说,意义重大。它持续不懈地努力,目的是帮助用户轻松应用原生ONNX模型到昇腾平台。这一举措意在让昇腾硬件与模型间的适配过程更加顺畅自然,从而促进AI硬件与模型框架的深度结合与进步。

对用户的好处

2022 年 9 月 23 日 ONNX Runtime 项目正式支持华为昇腾硬件平台

用户因而享受到众多直接益处。在昇腾提供的支持环境下,他们得以运用ONNXRuntime的核心分支代码,将之与ONNXmodelzoo中的ResNet和VGG模型相结合,亲自感受。这种方式无疑简化了技术融合的体验,且效率颇高。

用户若想体验不同的模型或算子,可以查阅文档并自行编写代码。等到新版本发布后,CANN后端将新增更多算子和模型的支持。总的来说,用户将拥有更多样化的选择,而且使用体验也会不断得到提升。

2022 年 9 月 23 日 ONNX Runtime 项目正式支持华为昇腾硬件平台

新功能的体验方式

想要体验ONNXRuntime与昇腾的全新连接功能,其实是有路径可寻的。你可以按照常规方法,借助现有模型进行尝试。若想进行更深入的探索,则需认真研读相关文档。通过这样的方法,你可以更深入地发掘这一新结合的潜力。对于技术爱好者或专业人士来说,这无疑是一条非常不错的探索途径。

2022 年 9 月 23 日 ONNX Runtime 项目正式支持华为昇腾硬件平台

普通用户普遍能感受到,随着越来越多的人投身开源社区,大家齐心协力共同改进这个新功能,未来的使用体验将迎来质的飞跃。这无疑是一个持续优化、逐步提升用户感受的发展历程。

开源共建的价值

开源社区在其中扮演着不可忽视的角色。自2023年起,ONNX社区在版本发布过程中,必须对昇腾硬件平台提供原生支持。这一改变,得益于开源共同建设的力量。众多开源社区的力量汇聚,有效降低了用户和厂商的成本。

2022 年 9 月 23 日 ONNX Runtime 项目正式支持华为昇腾硬件平台

我们齐心协力对这一功能进行优化,这不仅有助于推动生态创新,还能实现双方互惠互利。在开源社区中,每个成员都有机会分享知识,将智慧融入产品更新,大家共同享有生态进步带来的诸多好处。

新功能的不足与发展前景

ONNXRuntimeCANN后端作为新加入的功能,还有一些需要改进的地方。这种现象在发展过程中是很常见的。正是因为存在这些不足,我们才有机会进行改进和提升。在开源社区,大家通过交流互动,共同推动这一功能的完善,这也是其发展的一大动力。

2022 年 9 月 23 日 ONNX Runtime 项目正式支持华为昇腾硬件平台

这种技术融合发展的前景十分广阔。如果社区的力量能持续推动其进步,昇腾有望实现模型匹配的优化。同时,模型也可能更倾向于与昇腾硬件相匹配。如此一来,AI产业的生态系统将变得更加科学和合理,其发展也将更加深入。那么,你对这种技术创新的结合有何看法?它将为AI领域带来哪些出人意料的突破?欢迎点赞、转发此篇文章,并在评论区分享你的见解。

2022 年 9 月 23 日 ONNX Runtime 项目正式支持华为昇腾硬件平台

文章版权声明:除非注明,否则均为领先的数字钱包原创文章,转载或复制请以超链接形式并注明出处。

目录[+]