华为云用户手册

benchmark方法介绍 性能benchmark包括两部分。 静态性能测试：评估在固定输入、固定输出和固定并发下，模型的吞吐与首token延迟。该方式实现简单，能比较清楚的看出模型的性能和输入输出长度、以及并发的关系。 动态性能测试：评估在请求并发在一定范围内波动，且输入输出长度也在一定范围内变化时，模型的延迟和吞吐。该场景能模拟实际业务下动态的发送不同长度请求，能评估推理框架在实际业务中能支持的并发数。 性能benchmark验证使用到的脚本存放在代码包AscendCloud-3rdLLM-x.x.x.zip的llm_evaluation目录下。 代码目录如下: benchmark_tools ├── benchmark_parallel.py # 评测静态性能脚本 ├── benchmark_serving.py # 评测动态性能脚本 ├── generate_dataset.py # 生成自定义数据集的脚本 ├── benchmark_utils.py # 工具函数集 ├── benchmark.py # 执行静态，动态性能评测脚本 父主题： 推理性能测试

准备OBS桶 ModelArts使用 对象存储服务 （Object Storage Service，简称OBS）进行数据存储以及模型的备份和快照，实现安全、高可靠和低成本的存储需求。因此，在使用ModelArts之前通常先创建一个OBS桶，然后在OBS桶中创建文件夹用于存放数据。 本文档也以将运行代码以及输入输出数据存放OBS为例，请参考创建OBS桶，例如桶名：standard-llama2-13b。并在该桶下创建文件夹目录用于后续存储代码使用，例如：code 父主题： 准备资源

自定义数据 用户也可以自行准备训练数据。数据要求如下： 使用标准的.json格式的数据，通过设置--json-key来指定需要参与训练的列。 请注意huggingface中的数据集具有如下this格式。可以使用–json-key标志更改数据集文本字段的名称，默认为text。在维基百科数据集中，它有四列，分别是id、url、title和text。可以指定–json-key标志来选择用于训练的列。 { 'id': '1', 'url': 'https://simple.wikipedia.org/wiki/April', 'title': 'April', 'text': 'April is the fourth month...' }

Alpaca数据 Alpaca是由OpenAI的text-davinci-003引擎生成的包含52k条指令和演示的数据集。这些指令数据可以用来对语言模型进行指令调优，使语言模型更好地遵循指令。 预训练数据集下载：https://huggingface.co/datasets/tatsu-lab/alpaca/resolve/main/data/train-00000-of-00001-a09b74b3ef9c3b56.parquet，数据大小：24M左右。 增量预训练、LoRA微调训练数据集下载： http://github.com/tatsu-lab/stanford_alpaca/blob/main/alpaca_data.json，数据大小：22M左右。

准备数据集 准备数据集，例如根据Alpaca数据部分给出的预训练数据集、增量预训练、LoRA微调训练数据集下载链接下载数据集。 参考OBS文档在准备OBS桶创建的桶下创建文件夹用以存放数据，例如在桶standard-llama2-13b中创建文件夹alpaca。 参考文档利用OBS-Browser-Plus工具将步骤1下载的数据集上传至步骤2创建的文件夹目录下。得到OBS下数据集结构： obs://standard-llama2-13b/alpaca/llama2-13B/ ├── alpaca_data.json ├── train-00000-of-00001-a09b74b3ef9c3b56.parquet

IndexPut算子替换 在tensor类型的赋值和切片操作时，会使用IndexPut算子执行，一般都在AICPU上执行，可以转换为等价的tensor操作转换到CUBE单元上执行。例如： masked_input[input_mask] = 01 建议替换为： masked_input *= ~input_mask 1 此处是将IndexPut的masked_input是float类型的tensor数据，input_mask是和masked_input shape 一致的bool类型tensor或者01矩阵。由于是赋0操作，所以先对input_mask 取反后再进行乘法操作。 以赋0操作为例，在shape = (512, 32, 64) 类型float32 数据上测试，替换前耗时: 9.639978408813477 ms，替换之后耗时为 0.1747608184814453 ms Profiling分析算子下发发现，替换前：总体耗时在9.902ms，Host下发到device侧执行5个算子，其中aclnnIndexPutImpl_IndexPut_IndexPut是执行在 AICPU上。 图3 替换前 替换后：总体耗时226.131us。下发三个执行算子，均执行在AI CORE上。 图4 替换后

ArgMin算子优化 ArgMin在CANN 6.3 RC2 版本上 算子下发到 AICPU执行，在 CANN 7.0RC1上下发到AI_CORE 上边执行。出现此类情形建议升级 CANN 包版本。 在 shape 大小是 (1024, 1024) 的 tensor 上测试，结果如下： CANN 6.3.RC2上，单算子执行时间 2.603 ms。 图5 单算子执行时间（CANN 6.3.RC2） CANN7.0 RC1上，单算子执行时间 223.516 us。 图6 单算子执行时间（CANN7.0 RC1）

权重和词表文件介绍 下载完毕后的HuggingFace原始权重文件包含以下内容，此处以llama2-13B为例。 llama2-13B ├── config.json ├── generation_config.json ├── gitattributes.txt ├── LICENSE.txt ├── Notice.txt ├── pytorch_model-00001-of-00003.bin ├── pytorch_model-00002-of-00003.bin ├── pytorch_model-00003-of-00003.bin ├── pytorch_model.bin.index.json ├── README.md ├── special_tokens_map.json ├── tokenizer_config.json ├── tokenizer.json ├── tokenizer.model └── USE_POLICY.md 参考OBS文档在准备OBS桶创建的桶下创建文件夹用以存放权重和词表文件，例如在桶standard-llama2-13b中创建文件夹llama2-13B-chat-hf。 参考文档利用OBS-Browser-Plus工具将步骤1下载的权重文件上传至步骤2创建的文件夹目录下。 得到OBS下数据集结构： obs://standard-llama2-13b/llama-2-13b-chat-hf/ ├── config.json ├── generation_config.json ├── gitattributes.txt ├── LICENSE.txt ├── Notice.txt ├── pytorch_model-00001-of-00003.bin ├── pytorch_model-00002-of-00003.bin ├── pytorch_model-00003-of-00003.bin ├── pytorch_model.bin.index.json ├── README.md ├── special_tokens_map.json ├── tokenizer_config.json ├── tokenizer.json ├── tokenizer.model └── USE_POLICY.md

安装步骤 需要在当前镜像下新建一个conda环境。 # 需要保证能连接外网 conda create --name opencompass python=3.10 conda activate opencompass git clone https://github.com/open-compass/opencompass cd opencompass pip install -e . # 下载数据集到 data/ 处 wget --no-check-certificate https://github.com/open-compass/opencompass/releases/download/0.1.8.rc1/OpenCompassData-core-20231110.zip unzip OpenCompassData-core-20231110.zip

创建开发环境 镜像注册成功后，即可在ModelArts控制台的Notebook页面，创建开发环境时选择该 自定义镜像 。 图1 创建开发环境 打开开发环境，即可看到Dockerfile中创建的conda环境pytorch_1_8。 图2 打开开发环境 单击图中的pytorch_1_8，即可创建一个ipynb文件，导入torch，可以看到安装的pytorch 1.8已经能够使用。 图3 创建一个ipynb文件 再打开一个Terminal，查看ffmpeg和gcc的版本，是Dockerfile中安装的版本。 图4 查看ffmpeg和gcc的版本

修订记录 发布日期 修订记录 2024-04-30 第六十九次正式发布。 本次更新说明如下： 刷新配置双端固定章节相关内容。 2024-01-15 第六十八次正式发布。 本次更新说明如下： 配置双端固定章节示例三增加桶策略配置样例2。 2023-12-28 第六十七次正式发布。 本次更新说明如下： 配置双端固定章节增加配置样例。 2023-11-16 第六十六次正式发布。 本次更新说明如下： 配置WORM章节新增手动彻底删除WORM对象和配置生命周期规则删除WORM对象操作描述。 2023-11-15 第六十五次正式发布。 本次更新说明如下： 刷新对象存储服务监控指标说明章节监控指标。 2023-11-13 第六十四次正式发布。 本次更新说明如下： 配置静态网站托管章节新增桶策略列表页面截图，优化配置参数描述。 2023-10-25 第六十三次正式发布。 本次更新说明如下： 刷新删除弹窗相关内容。 2023-10-23 第六十二次正式发布。 本次更新说明如下： 刷新配置数据回源规则章节内容，补充说明源站透传客户端支持的HTTP header列表。 2023-10-16 第六十一次正式发布。 本次更新说明如下： 刷新搜索对象或文件夹章节内容。 刷新对象列表相关页面截图。 2023-10-11 第六十次正式发布。 本次更新说明如下： 在线解压功能新增开放区域“亚太-新加坡”。 2023-09-27 第五十九次正式发布。 新增查看桶策略解析结果章节。 2023-09-26 第五十八次正式发布。 对象存储服务监控指标说明刷新请求类监控指标。 2023-09-12 第五十七次正式发布。 在线解压功能由公测阶段转商用阶段。 2023-09-08 第五十六次正式发布。 刷新使用模板创建桶策略章节内容。 刷新自定义创建桶策略（可视化视图）章节内容。 刷新配置静态网站托管章节桶策略配置内容。 2023-09-06 第五十五次正式发布。 刷新查看桶的信息章节内容。 刷新配置桶ACL章节内容。 刷新配置对象ACL章节内容。 2023-07-31 第五十四次正式发布。 本次更新说明如下： 优化约束与限制。 2023-07-18 第五十三次正式发布。 本次更新说明如下： 优化桶列表结构和功能。 2023-06-28 第五十二次正式发布。 本次更新说明如下： 对象存储服务监控指标说明新增监控指标“cdn回源带宽”和“cdn回源流量”，新增HTTP状态码“499”和“650”。 2023-06-25 第五十一次正式发布。 本次更新说明如下： 优化文档目录结构。 2023-06-21 第五十次正式发布。 本次更新说明如下： SSE-KMS加密方式新增SM4加密算法选择项。 2023-05-30 第四十九次正式发布。 本次更新说明如下： 管理资源包章节新增升配资源包内容。 2023-05-15 第四十八次正式发布。 本次更新说明如下： 新增配置双端固定章节。 2023-05-12 第四十七次正式发布。 本次更新说明如下： 新增SSE-OBS服务端加密方式相关内容。 2023-04-28 第四十六次正式发布。 本次更新说明如下： 刷新域名管理相关内容。 2023-04-27 第四十五次正式发布。 本次更新说明如下： 刷新直接分享文件夹相关内容。 2023-04-23 第四十四次正式发布。 本次更新说明如下： 新增配置WORM章节。 2023-02-06 第四十三次正式发布。 本次更新说明如下： 新增配置加速域名章节。 2023-02-02 第四十二次正式发布。 本次更新说明如下： 新增创建刷新策略章节。 2023-01-13 第四十一次正式发布。 本次更新说明如下： 下线 SMN 通知功能。 2022-12-27 第四十次正式发布。 本次更新说明如下： 刷新深度归档存储（受限公测中）相关章节。 2021-08-25 第三十九次正式发布。 本次更新说明如下： 新增桶配置信息复制功能。 2021-04-17 第三十八次正式发布。 本次更新说明如下： 新增部分请求和存储类监控指标。 2020-12-16 第三十七次正式发布。 本次更新说明如下： 桶策略配置流程优化改版。 2020-09-10 第三十六次正式发布。 本次更新说明如下： 新增Data+特性相关说明。 2020-09-05 第三十五次正式发布。 本次更新说明如下： 新增深度归档存储相关说明。 2020-06-30 第三十四次正式发布。 本次更新说明如下： 新增镜像回源特性相关说明。 2020-01-20 第三十三次正式发布。 本次更新说明如下： 更新 IAM 权限相关说明。 2019-12-31 第三十二次正式发布。 本次更新说明如下： 更新控制台界面风格。 2019-12-25 第三十一次正式发布。 本次更新说明如下： 新增了桶加密功能。 2019-11-30 第三十次正式发布。 本次更新说明如下： 更新IAM策略相关说明。 2019-08-14 第二十九次正式发布。 本次更新说明如下： 跨区域复制中新增了同步历史对象功能。 2019-07-18 第二十八次正式发布。 本次更新说明如下： 新增了归档数据直读的功能。 2019-06-28 第二十七次正式发布。 本次更新说明如下： 新增了桶清单的功能。 2019-06-13 第二十六次正式发布。 本次更新说明如下： 新增了批量上传文件的功能。 2019-05-22 第二十五次正式发布。 本次更新说明如下： 更新了权限控制描述。 2019-04-19 第二十四次正式发布。 本次更新说明如下： 桶的访问权限增加了应用示例三~五。 对象的访问权限增加了应用示例二。 更新了对象元数据Content-Type介绍。 2019-03-18 第二十三次正式发布。 本次更新说明如下： 增加了OBS访问权限控制的描述。 2019-01-29 第二十二次正式发布。 本次更新说明如下： 更新了日志记录、标签、事件通知、生命周期管理、静态网站托管、跨域资源共享和防盗链的配置步骤。 更新了“无法在浏览器中打开对象URL”的原因。 2019-01-04 第二十一次正式发布。 本次更新说明如下： 软件框架更新，同步更新了日志记录、标签、事件通知、生命周期管理、静态网站托管、跨域资源共享和防盗链的配置步骤。 增加了桶策略应用示例一和二。 增加了任务管理功能操作描述。 2018-11-30 第二十次正式发布。 本次更新说明如下： 更新了桶信息界面参数。 更新了“多版本控制”功能的配置入口。 新增了批量修改对象存储类别功能。 增加了“对象策略”功能。 更新了对象元数据。 2018-11-16 第十九次正式发布。 本次更新说明如下： 新增了复制对象路径功能。 2018-10-31 第十八次正式发布。 本次更新说明如下： “创建桶”新增了“多AZ”配置。 2018-10-19 第十七次正式发布。 本次更新说明如下： 更新了多版本控制简介。 事件通知增加说明：“文件夹是以“/”结尾的，“/”前的字符为文件夹名称。对文件夹的相关操作做事件通知时，如果要匹配后缀，后缀必须以“/”结尾”。 2018-10-10 第十六次正式发布。 本次更新说明如下： 更新了桶级监控内容。 更新了界面截图。 2018-09-21 第十五次正式发布。 本次更新说明如下： 更新了自定义域名绑定介绍。 更新了日志记录参数描述。 更新了界面截图。 2018-08-31 第十四次正式发布。 本次更新说明如下： 更新了多版本对象操作入口。 更新了界面截图。 2018-08-15 第十三次正式发布。 本次更新说明如下： 自定义域名绑定增加了 CDN加速 功能。 更新了界面截图。 2018-07-30 第十二次正式发布。 本次更新说明如下： 更新了桶策略描述和配置。 增加了文件分享功能。 更新了界面截图。 2018-07-15 第十一次正式发布。 本次更新说明如下： 增加了 云审计 功能。 更新了界面截图。 2018-06-30 第十次正式发布。 本次更新说明如下： 增加了tag功能。 增加了用户权限配置步骤。 更新了界面截图。 2018-06-08 第九次正式发布。 本次更新说明如下： 增加了Cloud Eye管理控制台监控指标。 2018-05-31 第八次正式发布。 本次更新说明如下： 增加了多版本控制开启后，取消删除文件操作步骤。 增加了多版本控制开启后，多版本文件操作步骤。 增加了自定义域名绑定功能。 增加了创建密钥截图。 更新了界面截图。 2018-04-30 第七次正式发布。 本次更新说明如下： 更新了跨区域复制配置步骤。 增加了桶级监控。 更新了桶和对象ACL描述和配置。 更新了重定向描述。 更新了界面截图。 2018-04-15 第六次正式发布。 本次更新说明如下： 增加跨区域复制。 更新了界面截图。 2018-03-16 第五次正式发布。 本次更新说明如下： 增加流量监控功能。 增加了对象级存储类别。 增加了修改桶和对象的存储类别的功能。 购买指南中删除计费介绍和计费案例，详细的服务资费费率标准请参见价格说明。 更新了界面截图。 2017-12-20 第四次正式发布。 本次更新说明如下： 在《控制台指南》中增加如下内容： “配置事件通知”中增加多项目。 “出现“客户端与服务器的时间相差15分钟”的报错”章节。 创建桶时增加了一键式设置桶策略功能。 2017-10-30 第三次正式发布。 本次更新说明如下： 在《控制台指南》的“查看桶的基本信息”中增加“Endpoint”和“访问域名”。 在《控制台指南》的“通过对象（URL）访问对象”中修改URL的格式。 在《控制台指南》的“配置桶策略”中增加了一键式配置通用策略。 在《控制台指南》的“异常处理”中增加“配置事件通知失败”章节。 在《购买指南》中删除余额小于100的限制。 在《快速入门》的“注册云服务账号”中删除“隐私保护”。 2017-09-28 第二次正式发布。 本次更新说明如下： 在《产品简介》中增加“文档导读”。 在《快速入门》中增加“相关操作”。 在《控制台指南》中修改“配置桶策略”章节、新增“动作和条件的详细解释”章节。 2017-08-20 第一次正式发布。

配置加速域名 使用CDN加速域名后，可配置网站加速、文件下载加速和点播加速。详细应用场景请参见应用场景。通过CDN实现OBS文件下载加速的详细配置方法请参见最佳实践。 CDN加速需收费，具体请参见CDN价格说明。同时OBS提供更加优惠的回源流量包，可以减少CDN加速场景下获取数据时产生的流量费用。 CDN加速非实时生效，配置域名后请刷新域名管理列表查看状态。只有当CNAME域名状态为“已开启”时，才表示CDN加速生效。 如果开启了自动刷新缓存，在CNAME域名状态变为“已开启”后，还需要等待最长约5分钟，自动刷新缓存配置才生效。 在OBS管理控制台左侧导航栏选择“桶列表”。 在OBS管理控制台桶列表中，单击待操作的桶，进入“对象”页面。 在左侧导航栏选择“域名管理”，进入“域名管理”界面。 图1 域名管理界面 单击页面上方的“配置加速域名”，如果没有绑定自定义域名也可以在页面下方的配置加速域名卡片中单击“配置加速域名”，弹出“配置加速域名”页面，如图2所示。 如果还没有开通CDN服务，单击“配置加速域名”后会出现弹窗，根据弹窗提示，单击开通CDN服务。 图2 配置加速域名 选择“服务范围”，选择“业务类型”，设置“加速域名”，单击“确定加速”。如果您在填写加速域名时，需要OBS控制台为您呈现已有华为云域名下拉列表，您想要在下拉列表中直接点选，则您需要拥有 域名注册服务 Domains的Domains:domains:getDetails权限，请联系管理员使用IAM为您授权。如果无该权限，您需要手动输入加速域名。 如果您的OBS桶开启了静态网站托管功能，请在配置CDN加速域名时勾选“静态网站托管”，这样用户访问时就不会显示桶中所有文件列表。 根据页面提示，支持单击“一键解析”，或手动完成解析CNAME，单击右下角的“我已了解”，如图3所示。 华为云域名支持一键解析添加CNAME记录；非华为云域名不支持一键解析，请用户自行配置解析规则。 图3 解析CNAME 如果您绑定了域名，还可以在域名管理列表，找到需要开启加速的域名卡片，单击“开启加速”，后续具体操作请参见上文内容。 图4 加速域名 父主题： 数据访问

约束与限制 一个桶中最多同时配置10条DIS通知规则。 一个桶的多条DIS通知规则不允许重复，即任意对象在发生任意事件时都不能同时匹配两条以上的DIS通知规则，重复规则会创建失败。 针对同一事件，如果配置了一条前后缀都为空的规则，则不允许再配置第二条规则。前后缀都为空表示对所有对象生效。 例如：针对Put事件，已存在一条规则A，定义的前缀是“abcd”，后缀是“.txt”。如果要创建另外一条针对Put事件的规则B，则规则B配置不同前后缀的结果如表1所示。 表1 规则B前后缀配置场景及结果 规则A前后缀配置 规则B前后缀配置 规则B创建结果 原因 前缀：abcd 后缀：.txt 前缀：abcd 后缀：.txt 失败 前后缀相同 前缀：abcd 后缀：空 失败 前缀相同，后缀B包含A 前缀：ab 后缀：xt 失败 前缀B包含A，后缀B包含A 前缀：abef 后缀：.txt 成功 前缀不同，后缀相同 前缀：abcd 后缀：.mp4 成功 前缀相同，后缀不同

一站式接入 场景介绍 一站式接入购买物理连接，指华为云向用户提供整合基础运营商网络资源和端口的一站式上云服务。 整体接入流程请参考图4 一站式接入功能目前已开通区域：华北-北京一、华北-北京四、华东-上海一、华东-上海二、华南-广州、华南-深圳、西南-贵阳一。 图4 一站式物理连接接入流程 操作步骤 提交需求信息。 登录控制台，选择并进入云专线服务，在物理连接页面单击 “一站式接入”，进入物理连接需求信息页面。 根据界面提示，在物理连接需求信息页面配置机房信息、华为云接入点等信息，详细请参照表3输入相关参数。 图5 一站式接入 表3 购买物理连接参数 参数 说明 您的机房地址 用户填写机房地址，需要精确到房间和机柜号。例如上海市浦东新区华京路xx号xx楼xx机房xx机柜。 可进线的专线运营商 用户机房允许进线的运营商。 设备端口类型 用户机房出口设备的端口类型，物理线路会连接到此端口。 区域 物理连接开通的区域。用户可以在管理控制台左上角或购买页面切换区域。 华为云接入点 物理连接接入点的位置。 端口类型 物理连接接入端口的类型：1GE，10GE、40GE、100GE。 物理连接名称 用户将要创建的物理连接的名称（可自定义）。 专线带宽 物理连接的带宽大小，请在下拉框中选择对应的带宽。 计费模式 专线服务付费方式，目前仅支持包年方式付费。 购买时长 购买服务的时长。 企业项目 企业项目是一种云资源管理方式，企业项目管理服务提供统一的云资源按项目管理，以及项目内的资源管理、成员管理。 联系人姓名 用户侧专线负责人姓名。 联系人手机 用户侧专线负责人手机号码。 联系人Email 用户侧专线负责人邮箱地址。 单击“提交”。 华为云工勘。 华为云评估用户需求和运营商资源，与用户确认可满足用户需求的产品信息，回填信息后将订单返回给用户。 华为云工勘一般需要3个工作日。 确认配置支付订单。 在物理连接页面，单击目标物理连接操作列的“确认配置”。 在确认配置页面，确认物理连接配置方案和费用信息，单击“立即支付”。 用户在购买前须阅读并接受《一站式接入服务声明》，并在确认配置页面中勾选。 在购买页面，选择付款方式，单击“确认付款”。 用户选择“申请线上合同请款后支付”时，前往合同页面中申请并下载合同，线下申请款项后再完成支付；您已选择的折扣优惠会保存至相应的待支付订单。 华为云施工。 运营商线路施工。 华为云与用户侧进线对接。 机房楼内线施工。 工勘回填信息为一站式接入高级且包括楼内线产品时涉及机房楼内线施工。 端口开通。 开通确认。 在物理连接页面，单击目标物理连接操作列的“确认施工完成”。 在弹窗中，单击“确认”。确认物理连接已创建完成，华为云开始计费。

操作场景 当物理连接创建成功后，您可以查看已添加的标签，还可以添加、编辑以及删除标签。 标签是物理连接的标识，包括键和值。可以为物理连接创建20个标签。 如果已经通过TMS的预定义标签功能预先创建了标签，则可以直接选择对应的标签键和值。 预定义标签的详细内容，请参见预定义标签简介。 如您的组织已经设定云专线服务的相关标签策略，则需按照标签策略规则为物理连接添加标签。标签如果不符合标签策略的规则，则可能会导致物理连接创建失败，请联系组织管理员了解标签策略详情。

修订记录 发布日期 修改说明 2024-04-30 第二十六次正式发布。文档内容更新如下： 增加全球接入网关 根据控制台最新样式全文更新操作截图 2023-10-30 第二十五次正式发布。文档内容更新如下： 表1增加“bgp_receive_route_num_v4”、“bgp_receive_route_num_v6”。 2023-06-15 第二十四次正式发布。文档内容更新如下： 创建虚拟接口参数表增加参数“虚拟接口优先级”。 用户通过单专线静态路由访问VPC、用户通过单专线BGP协议访问VPC、用户通过双专线双接入点BGP协议访问VPC、用户通过云专线访问多个VPC 章节虚拟接口参数表增加参数“虚拟接口优先级”。 2023-05-05 第二十三次正式发布。文档内容更新如下： 增加云专线倒换测试 增加物理专线带宽测试方法 2022-11-30 第二十二次正式发布。文档内容更新如下： 快速入门：更新“入门指引”、“准备工作”、“物理连接接入”中物理连接配置流程相关内容。 2022-08-30 第二十一次正式发布。文档内容更新如下： 增加网络拓扑图 2022-06-30 第二十次正式发布。文档内容更新如下： 支持使用标签标识物理连接。 2021-05-30 第十九次正式发布。文档内容更新如下： 整体优化文档。 2021-01-30 第十八次正式发布。文档内容更新如下： 快速入门：“创建虚拟端口”增加参数配置说明。 用户指南：“创建跨账号虚拟接口”增加参数配置说明。 常见问题：增加“1GE和10GE是什么意思？两者有什么区别？” 整体优化文档。 2020-06-30 第十七次正式发布。文档内容更新如下： 快速入门：“物理连接接入”。 最佳实践。 常见问题。 2020-05-30 第十六次正式发布。文档内容更新如下： 产品介绍：“专线接入点”。 快速入门：“流程简介”、“准备工作”。 用户指南：“监控”。 常见问题：整合分类优化。 2020-04-30 第十五次正式发布。文档内容更新如下： 产品介绍：“网络规划”、“计费说明”。 快速入门：“准备工作”。 常见问题。 2020-03-30 第十四次正式发布。文档内容更新如下： 更新“产品概述”、“网络规划”“监控”。 新增“计费说明”、“准备工作”。 新增用户常见问题。 整体优化文档。 2020-02-29 第十三次正式发布。文档内容更新如下： 整体优化文档。 更新用户常见问题。 2019-12-30 第十二次正式发布。文档内容更新如下： 更新快速入门：物理连接接入。 更新用户指南：修改物理连接。 新增常见问题：购买云专线，怎样选择运营商？ 更新价格说明。 2019-11-30 第十一次正式发布。文档内容更新如下： 增加一站式接入流程。 更新快速入门和用户指南。 新增常见问题：云专线《一站式接入服务声明》的内容是什么？ 2019-10-30 第十次正式发布。文档内容更新如下： 增加监控 更新物理连接接入流程。 优化最佳实践。 2019-09-30 第九次正式发布。文档内容更新如下： 整体优化文档。 更新用户常见问题。 2019-07-30 第八次正式发布。文档内容更新如下： 更新云专线操作流程。 2019-05-07 第七次正式发布。文档内容更新如下： 整体优化文档。 2018-08-30 第六次正式发布。文档内容更新如下： 新增云专线自动化特性。 2018-05-30 第五次正式发布。文档内容更新如下： 增加记录云专线章节。 2017-10-30 第四次正式发布。文档内容更新如下： 根据最新管理控制台界面刷新查看云专线详情和修改云专线的步骤。 2017-07-30 第三次正式发布。文档内容更新如下： 在开通云专线时，新增参数“项目名称”。 2017-04-28 第二次正式发布。 新增以下FAQ： 云专线是否支持续订？怎么续订？ 云专线如何退订？ 云专线冻结后，是否可以正常使用？ 2016-10-19 第一次正式发布。

应用场景 云下用户数据中心和云上不同区域的VPC互通 全球接入网关与中心网络下的不同区域的企业路由器通过华为云骨干网络搭建连接，降低时延，简化网络拓扑，降低网络管理难度，提升网络运维效率。 图1 全球接入网关与不同区域的VPC互通 云下用户数据中心和云上同区域的VPC互通 全球接入网关与同区域的企业路由器通过华为云骨干网络搭建连接，降低时延，简化网络拓扑，降低网络管理难度，提升网络运维效率。 图2 全球接入网关与同区域的VPC互通

操作场景 当全球接入网关创建成功后，您可以查看已添加的标签，还可以添加、编辑以及删除标签。 标签是全球接入网关的标识，包括键和值。可以为全球接入网关创建20个标签。 如果已经通过TMS的预定义标签功能预先创建了标签，则可以直接选择对应的标签键和值。 预定义标签的详细内容，请参见预定义标签简介。 如您的组织已经设定云专线服务的相关标签策略，则需按照标签策略规则为全球接入网关添加标签。标签如果不符合标签策略的规则，则可能会导致全球接入网关创建失败，请联系组织管理员了解标签策略详情。

IEF权限 默认情况下，管理员创建的IAM用户没有任何权限，需要将其加入用户组，并给用户组授予策略或角色，才能使得用户组中的用户获得对应的权限，这一过程称为授权。授权后，用户就可以基于被授予的权限对云服务进行操作。 IEF部署时通过物理区域划分，为项目级服务。授权时，“作用范围”需要选择“区域级项目”，然后在指定区域（如华北-北京四）对应的项目（cn-north-4）中设置相关权限，并且该权限仅对此项目生效；如果在“所有项目”中设置权限，则该权限在所有区域项目中都生效。访问IEF时，需要先切换至授权区域。 权限根据授权精细程度分为角色和策略。 角色：IAM最初提供的一种根据用户的工作职能定义权限的粗粒度授权机制。具有Tenant Administrator系统角色的用户可以操作IEF所有资源。 策略：IAM最新提供的一种细粒度授权的能力，可以精确到具体服务的操作、资源以及请求条件等。基于策略的授权是一种更加灵活的授权方式，能够满足企业对权限最小化的安全管控要求。多数细粒度策略以API接口为粒度进行权限拆分。 如表1所示，包括了IEF的所有系统权限。 表1 IEF系统权限 系统角色/策略名称 描述 类别 依赖关系 IEF FullAccess IEF管理员权限，拥有该权限的用户可以操作并使用IEF的基本资源。注意：如需操作IEF所有资源，请配置Tenant Administrator系统角色。 系统策略 无 IEF ReadOnlyAccess IEF只读权限，拥有该权限的用户仅能查看IEF资源。 系统策略 无 表2列出了IEF常用操作与系统权限的授权关系，您可以参照该表选择合适的系统权限。 表2 常用操作与系统权限的关系 操作 IEF FullAccess IEF ReadOnlyAccess Tenant Administrator 创建/删除/修改服务实例 √ x √ 查看服务实例 √ √ √ 切换实例 √ √ √ 创建/删除/修改边缘节点 √ x √ 查看边缘节点 √ √ √ 创建/删除/修改边缘节点组 √ x √ 查看边缘节点组 √ √ √ 创建/删除/修改边缘容器应用 √ x √ 查看边缘容器应用 √ √ √ 创建/删除/修改设备 √ x √ 查看设备 √ √ √ 创建/删除/修改应用部署 √ x √ 查看应用部署 √ √ √ 创建/删除/修改应用模板 √ x √ 查看应用模板 √ √ √ 创建/删除/修改节点注册作业 √ x √ 查看节点注册作业 √ √ √ 创建/删除/修改消息端点 √ x √ 查看消息端点 √ √ √ 创建/删除/修改消息路由 √ x √ 查看消息路由 √ √ √ 创建/删除/修改批量作业 √ x √ 查看批量作业 √ √ √ 创建/删除/修改配置项 √ x √ 查看配置项 √ √ √ 创建/删除/修改密钥 √ x √ 查看密钥 √ √ √ 创建/删除/修改加密数据 √ x √ 查看加密数据 √ √ √ 创建/删除/修改系统订阅 √ x √ 查看系统订阅 √ √ √ 创建/删除/修改插件 √ x √ 查看插件 √ √ √

为什么选择智能边缘平台 云计算是集中化的，离终端设备（如摄像头、传感器等）较远，对于实时性要求高的计算需求，把计算放在云上会引起网络延时变长、网络拥塞、服务质量下降等问题。而终端设备通常计算能力不足，无法与云端相比。在此情况下，边缘计算顺应而生，通过在靠近终端设备的地方建立边缘节点，将云端计算能力延伸到靠近终端设备的边缘节点，从而解决上述问题。 智能边缘平台（Intelligent EdgeFabric）通过纳管您的边缘节点，提供将云上应用延伸到边缘的能力，联动边缘和云端的数据，满足客户对边缘计算资源的远程管控、数据处理、分析决策、智能化的诉求，同时，在云端提供统一的边缘节点/应用监控、日志采集等运维能力，为企业提供边、云协同的一体化边缘计算解决方案。

配置ROI ROI即Region of Interest，表示算法的检测区域。部分算法要求必须填入表示检测区域的JSON格式的字符串，例如：{"polygons":[{"data":[[84,389],[1840,349],[1824,526],[78,526]]}]}，其中[84,389]这类结构表示的是横纵坐标，{"data":[...]}表示由这些坐标点连线构成的一个图形，"polygons":[...]}表示复数个{"data":[...]}图形都为多边形区域。示例的整个字符串表示由这四个坐标点构成的多边形区域。同理{"lines":[{"data":[[238,481],[1309,481]]}]}表示由两个坐标点构成的线段。 除了直接填入表示区域的字符串外还可直接通过手工绘制的方式配置ROI，平台将根据绘制的结果自动生成对应的表示区域的JSON格式字符串。 配置ROI 绘画直线段时，单击，在图中画出期望的直线段。 图1 绘画直线段 绘画多边形时，单击，在图中画出期望的检测区域，最后一条线段不需要绘画，双击鼠标表示绘画多边形结束，区域将自动闭合。 图2 绘画多边形 绘画多边形区域时，线段不能交叉。 可在图中绘画多个多边形区域。 可以在绘制区域按钮中自定义名称和颜色。 保存ROI模板 绘制好需要的ROI之后，输入ROI名称，单击保存，将所绘的ROI保存到模板中。 图3 保存ROI模板 选择ROI模板 单击选中需要的ROI模板，则可在当前任务中使用。 图4 ROI模板 除了在新建任务过程中可以增加ROI模板外，也可以单击视频源详情进行ROI模板的绘制。 图5 ROI管理 父主题： 参考信息

从AI Gallery订阅的Workflow如何使用 登录AI Gallery的Workflow案例库。 从AI Gallery的Workflow资产页面，选择并订阅一个Workflow，勾选“我已阅读 《数据安全与隐私风险承担条款》和《华为云AI Gallery服务协议》”后，单击“继续订阅”。 订阅完成后，单击“运行”后跳转到ModelArts控制台界面，选择资产版本、Workflow名称、云服务区域以及工作空间，单击“导入”，进入该Workflow的详情页面。 图1 从AI Gallery导入工作流 单击右上角的“配置”后进入配置页面，根据您所订阅的工作流，配置Workflow需要的部分输入项和参数，参考表1，参数配置完成后，单击右上角的“保存配置”。 保存成功后，单击右上角的“启动”，启动Workflow。 Workflow进入运行页面，等待Workflow运行。 每一个节点运行状况页面的“状态”为此节点的运行状态，运行成功会自动执行下一个节点的运行，直至所有节点运行成功，代表Workflow完成运行。 图2 完成运行 父主题： 如何使用Workflow

部分运行 针对大型、复杂的Workflow，为节省重复运行消耗的时间，在运行业务场景时，用户可以选择其中的部分节点作为业务场景运行，工作流在执行时将会按顺序执行部分运行节点。 创建 通过SDK创建工作流时，预先定义好部分运行场景，具体可参考部分运行。 配置 在配置工作流时，打开“部分运行”开关，选择需要执行的部分运行场景，并填写完善相关节点的参数。 启动 保存上一步的配置后，单击“启动”按钮即可启动部分运行场景。 父主题： 如何使用Workflow

属性总览 您可以使用JobStep来构建作业类型节点，JobStep结构如下 表1 JobStep 属性 描述 是否必填 数据类型 name 作业节点的名称，命名规范：只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符，一个Workflow里的两个step名称不能重复 是 str algorithm 算法对象 是 BaseAlgorithm, Algorithm, AIGalleryAlgorithm spec 作业使用的资源规格相关配置 是 JobSpec inputs 作业节点的输入列表 是 JobInput或者JobInput的列表 outputs 作业节点的输出列表 是 JobOutput或者JobOutput的列表 title title信息，主要用于前端的名称展示 否 str description 作业节点的描述信息 否 str policy 节点执行的policy 否 StepPolicy depend_steps 依赖的节点列表 否 Step或者Step的列表 表2 JobInput 属性 描述 是否必填 数据类型 name 作业类型节点的输入名称，命名规范：只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符。同一个Step的输入名称不能重复 是 str data 作业类型节点的输入数据对象 是 数据集或OBS相关对象，当前仅支持Dataset，DatasetPlaceholder，DatasetConsumption，OBSPath，OBSConsumption，OBSPlaceholder，DataConsumptionSelector 表3 JobOutput 属性 描述 是否必填 数据类型 name 作业类型节点的输出名称，命名规范：只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符。同一个Step的输出名称不能重复 是 str obs_config 输出的OBS相关配置 否 OBSOutputConfig model_config 输出的模型相关配置 否 ModelConfig metrics_config metrics相关配置 否 MetricsConfig 表4 OBSOutputConfig 属性 描述 是否必填 数据类型 obs_path 已存在的OBS目录 是 str、Placeholder、Storage metric_file 存储metric信息的文件名称 否 str、Placeholder 表5 BaseAlgorithm 属性 描述 是否必填 数据类型 id 算法管理的算法ID 否 str subscription_id 订阅算法的订阅ID 否 str item_version_id 订阅算法的版本号 否 str code_dir 代码目录 否 str，Placeholder，Storage boot_file 启动文件 否 str，Placeholder，Storage command 启动命令 否 str，Placeholder parameters 算法超参 否 AlgorithmParameters的列表 engine 作业使用的镜像信息 否 JobEngine environments 环境变量 否 dict 表6 Algorithm 属性 描述 是否必填 数据类型 algorithm_id 算法管理的算法ID 是 str parameters 算法超参 否 AlgorithmParameters的列表 表7 AIGalleryAlgorithm 属性 描述 是否必填 数据类型 subscription_id 订阅算法的订阅ID 是 str item_version_id 订阅算法的版本号 是 str parameters 算法超参 否 AlgorithmParameters的列表 表8 AlgorithmParameters 属性 描述 是否必填 数据类型 name 算法超参的名称 是 str value 算法超参的值 是 int, bool, float, str, Placeholder, Storage 表9 JobEngine 属性 描述 是否必填 数据类型 engine_id 镜像ID 否 str，Placeholder engine_name 镜像名称 否 str，Placeholder engine_version 镜像版本 否 str，Placeholder image_url 镜像url 否 str，Placeholder 表10 JobSpec 属性 描述 是否必填 数据类型 resource 资源信息 是 JobResource log_export_path 日志输出路径 否 LogExportPath schedule_policy 作业调度配置策略 否 SchedulePolicy volumes 作业挂载的文件系统信息 否 list[Volume] 表11 JobResource 属性 描述 是否必填 数据类型 flavor 资源规格 是 Placeholder node_count 节点个数，默认为1，多节点表示支持分布式 否 int，Placeholder 表12 SchedulePolicy 属性 描述 是否必填 数据类型 priority 作业调度的优先级，仅支持配置为1、2、3，分别对应低、中、高三种优先级 是 int，Placeholder 表13 Volume 属性 描述 是否必填 数据类型 nfs NFS文件系统对象 否 NFS 表14 NFS 属性 描述 是否必填 数据类型 nfs_server_path NFS文件系统的服务地址 是 str，Placeholder local_path 挂载到容器里面的路径 是 str，Placeholder read_only 是否只读的方式挂载 否 bool，Placeholder 父主题： 作业类型节点

资源配置 一条Workflow中有不止一个节点可以进行资源的配置，当前支持对不同节点配置不同的规格。所消耗的资源与训练作业/在线推理的费用一致。只有在节点运行时才会产生消耗费用，当节点未运行或等待操作的过程中均不消耗。训练资源规格配置，默认使用公共资源池。 图1 资源配置 当您需要使用专属资源池时，将“是否使用专属资源池”的开关打开即可。 推理资源规格配置： 工作流运行到服务部署节点时，需要手动输入推理的资源规格： 待工作流运行至服务部署节点，状态为“等待输入” 在“输入”区域选择推理需要使用到的资源规格。 完成后选择“继续运行”。 图2 输入配置 计算节点规格：华北-北京四可支持限时免费的规格，但每个用户只限创建一个基于此免费规格的实例。其余规格均按需计费，使用完之后请及时停止Workflow，避免产生不必要的费用。 如果您购买了套餐包，计算节点规格可选择您的套餐包，同时在“配置费用”页签还可查看您的套餐包余量以及超出部分的计费方式，请您务必关注，避免造成不必要的资源浪费。 父主题： 配置Workflow

查看Workflow运行记录 运行记录是展示某条工作流所有运行状态数据的地方。 在Workflow列表页，单击某条工作流的名称，进入该工作流的详情页面。 在工作流的详情页，左侧区域即为该条工作流的所有运行记录。 图1 查看运行记录 您可以对当前工作流的所有运行记录，进行删除、编辑以及重新运行的操作。 删除：若该条运行记录不再需要，您可以单击“删除”，在弹出的确认框中单击“确定”即可完成运行记录的删除。 编辑：若您想对您当前的工作流下的所有运行记录进行区分，您可以单击“编辑”，对每一条运行记录添加相应的标签予以区分。 重新运行：可以单击“重新运行”直接在某条记录上运行该工作流。 您可以对该条工作流的所有运行记录进行筛选和对比。 筛选：该功能支持您对所有运行记录按照“运行状态”和“运行标签”进行筛选。 图2 筛选 对比：针对某条工作流的所有运行记录，按照状态、运行记录、启动时间、运行时长、参数等进行对比。 图3 对比 当单击“启动”运行工作流时，运行记录列表会自动刷新，并更新至最新一条的执行记录数据，并与DAG图和总览数据面板双向联动更新数据。每次启动后都会新增一条运行记录。 用户可以单击Workflow详情页中任一节点查询节点运行状况。包括节点的属性（节点的运行状态、启动时间以及运行时长）、输入位置与输出位置以及参数（数据集的标注任务名称）。 父主题： 如何使用Workflow

Workflow Workflow是一个有向无环图（Directed Acyclic Graph，DAG），由节点和节点之间的关系描述组成。 节点与节点之间的依赖关系由单箭头的线段来表示，依赖关系决定了节点的执行顺序，示例中的工作流在启动后将从左往右顺序执行。DAG也支持多分支结构，用户可根据实际场景进行灵活设计，在多分支场景下，并行分支的节点支持并行运行。 表1 Workflow 属性 描述 是否必填 数据类型 name 工作流的名称，命名规范：只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64位字符 是 str desc 工作流的描述信息 是 str steps 工作流包含的节点列表 是 list[Step] storages 统一存储对象列表 否 Storage或者list[Storage] policy 工作流的配置策略，主要用于部分运行场景 否 Policy 父主题： 核心概念

配置标签 在ModelArts管理控制台，左侧菜单栏单击“Workflow”。进入Workflow列表页。 在列表页根据Workflow工作流名称，找到需要打标签的工作流，单击工作流名称，进入工作流详情页。 在工作流详情页，单击左上角编辑按钮。 在弹出的编辑Workflow弹窗中，在标签框中输入相应的标签后，单击“新增标签”，新生成的标签会展示在标签行的下方，您可以同时增加多个标签。标签增加完成后，单击“确定”，标签即可生成。 图1 编辑 图2 新增标签

查找 在Workflow列表页，您可以通过搜索框，根据工作流的属性类型快速搜索过滤到相应的工作流，可节省您的时间。 登录ModelArts管理控制台，在左侧导航栏选择Workflow，进入Workflow总览页面。 在工作流列表上方的搜索框中，根据您需要的属性类型，例如：名称、状态、当前节点、启动时间、运行时长或标签等，过滤出相应的工作流。 单击搜索框右侧的按钮，可设置Workfklow列表页需要展示的内容和展示效果。 表格内容折行：默认为关闭状态。启用此功能可以让Workfklow列表页中的内容在显示时自动换行。禁用此功能可截断文本，Workfklow列表页中仅显示部分内容。 操作列：默认为开启状态，启用此能力可让操作列固定在最后一列永久可见。 自定义显示列：默认所有显示项全部勾选，您可以根据实际需要定义您的显示列。 图1 设置 设置完成后，单击“确定”即可。 同时可支持对Workflow显示列进行排序，单击表头中的箭头，就可对该列进行排序。

停止 可以通过“停止”按钮，主动停止正在运行的工作流，有2种操作方式： 工作流列表页： 当工作流处于“运行中”时，操作栏会出现“停止”按钮。单击“停止”，出现停止Workflow询问弹窗，单击“确定”。 进入某条运行中的工作流，单击右上角的“停止”按钮，出现停止Workflow询问弹窗，单击确定。 只有处于“运行中”状态的工作流，才会出现“停止”按钮。 停止Workflow后，关联的训练作业和在线服务也会停止。