华为AI芯片获得优化:7倍性能于苹果M1处理器

尽管由于限制,华为拥有设计先进芯片的能力但没法制造出来,但是软硬件优化还是让华为的平台展示出了优秀的性能,日前OpenCV就实现了对华为AI平台晟腾的优化,速度提升很恐怖,差不多是苹果M1处理器的7倍。

据南方科技大学计算机系的于仕琪老师介绍,OpenCV中国团队实现了OpenCV4.7对华为晟腾的支持,在华为硬件上,3毫秒就可以完成ResNet50的推理。

这个速度的确很恐怖!要知道,我们把OpenCV针对arm cpu加了winograd conv等的优化了,在苹果标杆CPU m1上都要跑20+ms。

这一工作的最大意义在于,用户不需要学习华为晟腾的复杂API,正常调用OpenCV,就能实现晟腾NPU硬件加速。

据悉,昇腾CANN(Compute Architecture for Neural Networks)是华为针对AI场景推出的异构计算架构。

昇腾CANN支持昇思MindSpore,OpenCV DNN,飞桨Paddle、PyTorch、TensorFlow等神经网络推理和训练框架,并兼容多种底层硬件设备,提供强大异构计算能力。

其中昇腾CANN为用户提供了模型转换工具ATC,以及C/Python的API库AscendCL。

用户可使用ATC将ONNX、TF和Caffe模型转换为被AscendCL支持的OM格式,并调用AscendCL的API读取和在昇腾AI处理器上推理模型。

Related Posts