华为云计算 云知识 模型转换及其常见问题

模型转换及其常见问题

模型转换,即将开源框架的网络模型(如Caffe、TensorFlow等),通过ATC(Ascend Tensor Compiler)模型转换工具,将其转换成昇腾AI处理器支持的离线模型,模型转换过程中可以实现算子调度的优化、权值数据重排、内存使用优化等,可以脱离设备完成模型的预处理。

另外,离线模型转换过程中,80%左右的问题,集中在算子不支持。

1、新网络,其中算子未开发或发布;

2、原框架自定义算子,需要在新框架重新适配开发;

3、算子泛化不够,某些数据大小不支持。

 

 

在模型转换过程中出现了算子不支持的情况,例如昇腾AI软件栈不支持模型中的算子、开发者想修改现有算子中的计算逻辑、或者开发者想自己开发算子来提高计算性能,这时就需要进行自定义算子的开发了。

上一篇:态势感知的功能 下一篇:NAT网关的优势