AI开发平台MODELARTS-使用Notebook开发Ascend算子:在VS Code中调试matmul算子

时间:2024-04-30 17:04:02

在VS Code中调试matmul算子

  1. matmul算子所在目录为“samples/cplusplus/level1_single_api/4_op_dev/6_ascendc_custom_op/kernel_invocation/Matmul”
  2. 在work目录下执行如下命令。
    cd samples/cplusplus/level1_single_api/4_op_dev/6_ascendc_custom_op/kernel_invocation/Matmul
  3. 执行如下命令修改main.cpp文件,此文件为调用算子的应用程序文件。
    vim main.cpp

    将param4FileSize的值改为192

    图5 修改param4FileSize为192
  4. 执行如下命令修改vim matmul_custom.cpp文件。
    vim matmul_custom.cpp

    将 matmul_custom.cpp中的tiling.K更改成tiling.Ka

    图6 tiling.K更改成tiling.Ka
  5. 手动在Matmul目录下创建名为“output”的文件夹。
    图7 创建output文件夹
  6. 执行如下命令编译和运行脚本。
    1. CPU模式下执行如下命令
      bash run.sh matmul_custom ascend910B1 AiCore cpu ONBOARD CUSTOM_TILING

      运行结果如下,当前使用md5sum对比了所有输出bin文件,md5值一致表示实际的输出数据和真值数据相符合。

      图8 CPU模式运行结果
    2. NPU模式下执行如下命令
      bash run.sh matmul_custom ascend910B1 AiCore npu ONBOARD CUSTOM_TILING

      运行结果如下,当前使用md5sum对比了所有输出bin文件,md5值一致表示实际的输出数据和真值数据相符合。

      图9 NPU模式运行结果

support.huaweicloud.com/devtool-modelarts/devtool-modelarts_0142.html