AI开发平台MODELARTS-BERT和YOLO等常用小模型适配MindSpore NPU推理指导:Step8 Jmeter压测

时间：2024-05-17 18:26:06

AI开发平台MODELARTS 内容审核

Step8 Jmeter压测

获取开源的Jmeter压测工具。安装包地址：jmeter安装包地址。
安装Java。
下载jdk包到宿主机上，拷贝到容器/opt/jdk目录下，使用tar -zxvf 解压，例如：
```
#容器内执行： 
mkdir /opt/jdk 
#宿主机上执行： 
docker cp jdk-8u352-linux-aarch64.tar.gz bert-mindspore:/opt/jdk 
#容器内执行： 
cd /opt/jdk tar -zxvf  jdk-8u352-linux-aarch64.tar.gz
```
然后设置环境变量(JAVA_HOME 路径名称以实际为准)：

export JAVA_HOME=/opt/jdk/jdk1.8.0_352

export PATH=${JAVA_HOME}/bin:${PATH}

安装Jmeter。

下载jmeter包到宿主机上，拷贝到容器/opt/jmeter，使用unzip 解压，例如：

#容器内执行： 
mkdir /opt/jmeter 
#宿主机上执行： 
docker cp apache-jmeter-5.4.1.zip bert-mindspore:/opt/jmeter 
#容器内执行： 
cd /opt/jmeter unzip  apache-jmeter-5.4.1.zip

然后设置环境变量

export PATH=/opt/jmeter/apache-jmeter-5.4.1/bin:${PATH}

启动Jmeter压测。
修改jmeter启动脚本
```
vim run_jmeter.sh
```
将其内容修改如下，${model}.jtl 为jtl文件名
```
jmeter -n -t jmeter.jmx -l ${model}.jtl
```
启动jmeter脚本
```
sh run_jmeter.sh
```
查看信息。将jtl文件保存在本地，创建一个线程组，在该线程组下面创建一个监听器的聚合报告。在聚合报告中打开相应的jtl文件查看信息。
查看的信息包括：
- 平均值：平均时延
- 99%百分位：p99时延
- 异常：失败率
- 吞吐量：qps
每打开一个jtl文件需要重新创建一个聚合报告，不能用同一个聚合报告打开多个jtl文件，会使数据杂糅，使聚合报告信息不准。

记录最终吞吐量时需将该信息中的吞吐量 x batchsize。