华为云用户手册

  • Step2 创建数据集并上传至OBS 进入网站http://www.cs.toronto.edu/~kriz/cifar.html,下载“CIFAR-10 binary version (suitable for C programs)”,解压后将数据上传至OBS桶的“obs://test-modelarts/mindspore-gpu/cifar-10-batches-bin/”文件夹下。OBS桶中数据集如下所示: 图1 数据集
  • Alpaca数据 本教程使用到的训练数据集是Alpaca数据集。Alpaca是由OpenAI的text-davinci-003引擎生成的包含52k条指令和演示的数据集。这些指令数据可以用来对语言模型进行指令调优,使语言模型更好地遵循指令。 训练数据集下载:https://huggingface.co/datasets/tatsu-lab/alpaca/resolve/main/data/train-00000-of-00001-a09b74b3ef9c3b56.parquet,数据大小:24M左右。
  • 自定义数据 用户也可以自行准备训练数据。数据要求如下: 使用标准的.json格式的数据,通过设置--json-key来指定需要参与训练的列。 请注意huggingface中的数据集具有如下this格式。可以使用–json-key标志更改数据集文本字段的名称,默认为text。在维基百科数据集中,它有四列,分别是id、url、title和text。可以指定–json-key 标志来选择用于训练的列。 { 'id': '1', 'url': 'https://simple.wikipedia.org/wiki/April', 'title': 'April', 'text': 'April is the fourth month...' }
  • 上传数据到指定目录 将下载的原始数据存放在/home/ma-user/ws/training_data目录下。具体步骤如下: 进入到/home/ma-user/ws/目录下。 创建目录“training_data”,并将原始数据放置在此处。 mkdir training_data 数据存放参考目录结构如下: ${workdir}(例如/home/ma-user/ws ) |── training_data |── train-00000-of-00001-a09b74b3ef9c3b56.parquet #训练原始数据集
  • 为什么选择应用平台? 应用平台(AppStage)本质上是华为内部优秀实践的外溢,以终端祥云平台为基础,同时融合了企业内部IT治理、华为云工程能力等优秀实践。内置高可靠、安全、韧性等基础架构属性,通过标准化的服务供用户调用,解决重复造轮子。同时,构建统一的应用全生命周期管理平台,降低云上SaaS应用开发、部署、运维和运营的难度,提升效率,助力应用和开发者上云。 在华为内部,终端祥云平台经过7年多的全云原生化架构改造,不仅实现了业务100%上云,而且: 基于华为云“全球存算网”构建的业务,可以通过华为云将业务送达全球客户与开发者。 降低AI原生应用开发门槛、提升开发效率。帮助企业实现降本增效、改进决策方式、提升客户体验、创新增长模式等经营目标,完成从传统应用到智能应用的竞争力转型。 服务了全球十亿级的并发用户,实现了全球不同区域的数据安全与隐私合规的遵从。 云原生架构实现了99.995%的多Region容灾及业务高可用能力,构建了全流程的DevOps工具链与开发平台。 实现了应用开发的敏捷化、发布的灰度化、以及运营的互联网模式化。 面向消费者业务,以丰富的10+中台能力,支撑全球500+万全球开发者,经过众多开发者验证的优秀实践。 自动化、数据化、智慧化运维平台,逐步实现无人值守运维。 业务实践证明,应用平台在业务云化、应用云原生化、服务自运维方面是公司的最佳实践,经过百万开发者、十亿并发用户的验证!
  • 产品架构 应用平台(AppStage)总体架构如图1所示。 图1 产品架构 应用平台(AppStage)聚合华为内部消费者业务,企业IT和华为云优秀实践打造的统一平台。 业务控制台:统管系统级功能的配置和维护,如组织信息、应用基础信息(产品、服务、微服务)、公告等。同时提供了AI原生应用引擎、开发中心、运维中心、运营中心的快捷登录入口。 AI原生应用引擎:一站式的企业专属原生智能应用开发平台,提供企业专属大模型开发和应用开发的整套工具链,包括数据准备、模型选择/调优、知识工程、模型编排、应用部署、应用集成等能力。 开发中心:开发中心提供软件开发端到端的所有服务。 运维中心:以运维作业视角设计端到端作业流。 应用运行时引擎:提供NUWA微服务框架,兼容开源SpringCloud微服务。 运营中心:面向运营人员提供运营管理服务,提供应用数据接入、数据模型构建、指标开发、指标管理、指标开放的应用数据运营分析。 统一组织账号管理:组织成员账号(OrgID)是面向企业提供组织管理、企业成员账号管理以及SaaS应用授权管理能力的云服务,将Huawei ID账号体系延伸到企业用户,统一华为云面向生态SaaS服务的组织、账号,同时面向生态伙伴推出SaaS服务账号集成规范。应用平台集成OrgID面向企业提供组织管理、企业成员账号管理以及SaaS应用授权管理能力。
  • 产品功能 应用平台由以下几个主要服务及其功能构成: 开发中心 开发中心为软件开发提供端到端的常用功能:从需求管理到部署服务,开箱即用,实现敏捷交付、提供各种模板和实践。基于项目维度提供从需求、设计、开发、测试、发布、变更、部署全场景一站式研发门户,支撑开发所有角色统一在一站式门户协同工作,提升用户体验及研发效率。 运维中心 基于租户业务应用场景打造,应用平台致力于为租户提供服务。应用平台以运维作业视角设计端到端作业流程,构建自动化、数据化、智能化的运维平台,逐步实现无人值守运维。 运行时引擎 提供NUWA微服务框架,兼容开源SpringCloud微服务,预集成构建云服务业务分布式架构所需的各个组件(微服务框架、数据库、通用中间件、安全中间件、公共服务等)及DFX能力,业务开发人员专心撰写业务代码,屏蔽全球多个站点环境的复杂差异,开箱即用,缩短开发时间,提升交付效率。 运营中心 面向运营人员提供运营管理服务,提供应用数据接入、数据模型构建、指标开发、指标管理、指标开放的应用数据运营分析底座,支撑各类数据指标及模板快速构建和生成,支撑应用用户运营和持续增长。 AI原生应用引擎 面向企业客户的研发/技术人员,提供企业专属大模型开发和应用开发的整套工具链,包括数据准备、模型选择/调优、知识工程、模型编排、应用部署、应用集成等能力,降低智能应用开发门槛,提升开发效率。
  • 什么是应用平台? 应用平台(AppStage)是基于平台工程(Platform Engineering)理念打造的下一代应用全生命周期管理和AI原生应用生命周期管理平台,帮助客户快速高效地实现传统应用及AI原生应用全生命周期管理,为应用构建、运维和运营等生命周期管理活动提供自助式服务能力,目标是通过标准化和自动化的服务来提升用户体验 ,促使客户可以专注于交付应用逻辑和云上业务创新。 应用平台(AppStage)将平台能力产品化,采用产品管理思维来设计和维护对用户友好而且满足不同用户和角色的期望和需求。通过一套平台实现如下能力: 提供自助式云原生工具和技术的平台,开发人员可以使用这些工具和技术来构建、测试、部署、监控或执行与应用程序开发和交付有关的几乎任何事情,同时尽可能减少开销,提升用户的体验和效率。 提供AI原生应用开发引擎,包括RAG、Agent等应用框架,零码态和全码态的开发形态,降低AI原生应用开发门槛、提升开发效率。支持客户打通自己的业务能力API,将大模型的能力结合进入自己的业务链路。 提供支撑AI原生应用运行的整套模型工具链,包括数据管理、模型接入、模型调优、知识工程等能力,帮助客户选好、管好、用好大模型,从而提升大模型应用效果。 统一主数据平台和概念模型, 管理应用生命周期中组织、产品、服务/微服务与项目等信息。建立贯穿产品设计,DEV,OPS全周期产品信息管理能力,供接入云原生的各系统消费。包含新建、迁移纳管、属性维护、变更通知,保证数据的一致性和稳定性。实现统一的架构治理。 通过工具的集成,构建应用全生命周期自动化流程,打破工具间的信息孤岛,实现不同角色和团队间协作,持续改进和自动化,提升效率和应用的服务水平。 在用户使用应用平台过程中逐步将知识体系固化到平台中,从而使得工程方式标准化、流程化和规模化并持续改善,用户可以对流程、模板进行定制和扩展,并通过与工具库的集成来高效、稳定、全面地实践。实现知识不断迭代积累,从而发挥规模化效应,应对未知挑战,提升价值转化速率。
  • 解决方法 登录https://developer.vmware.com/home,下载VMware加密套件并完成安装。 执行以下命令,将eBackup安装包进行转换。 ovftool.exe --shaAlgorithm=SHA1 /path/to/the/original/ebackup_xxxx.ovf /path/to/the/new/ova/ebackup-SHA1.ovf 更多详情请参见:https://kb.vmware.com/s/article/2151537。 转换完成后再次执行eBackup安装操作。
  • 排查思路 以下排查思路根据原因的出现概率进行排序,建议您从高频率原因往低频率原因排查,从而帮助您快速找到问题的原因。 如果解决完某个可能原因仍未解决问题,请继续排查其他可能原因。 图2 排查思路 表1 排查思路 可能原因 处理措施 某个参数填写错误。 在eBackup创建存储单元界面,逐个检查参数是否填写正确。如有不正确,需要修改为正确的参数。其中AK/SK不能填写子账号的AK/SK,需要填写主账号的AK/SK。 eBackup的时间与实际时间偏差较大,导致响应失败。 解决方法请参考eBackup的时间与实际时间偏差较大。 eBackup与云备份服务存在网络通信问题。 解决方法请参考eBackup与云备份服务存在网络通信问题。 eBackup与 对象存储服务 存在网络通信问题。 请错峰备份或提交工单进行技术咨询。 VMware虚拟机的VDDK版本不正确。 需要使用6.0.3版本的VDDK。用户可以访问VMware官方网站https://code.vmware.com/web/sdk/6.0/vddk下载VMware-vix-disklib-6.0.3-4888596.x86_64.tar.gz的VDDK。
  • 存储容量已经超过最大容量 当存储库存储容量超过上限后,系统将不会继续执行备份。当存储库存储容量不足时,您可以采取以下措施: 前往云备份控制台,找到目标存储库,手动删除不需要的备份。 如果还需要保留产生的备份,可以选择扩容存储库,具体操作请参见扩容存储库。 如果存储库绑定了备份策略,可以选择停止备份策略或从策略中解绑存储库,具体操作请参见停止备份策略和从策略中解绑存储库。停止后,自动备份将停止,存储库存储容量将不再变化。也可以修改备份策略或者修改存储库绑定的资源。
  • 排查思路 以下排查思路根据原因的出现概率进行排序,建议您从高频率原因往低频率原因排查,从而帮助您快速找到问题的原因。 如果解决完某个可能原因仍未解决问题,请继续排查其他可能原因。 图1 排查思路 表1 排查思路 可能原因 处理措施 存储库存储容量已经超过最大容量。 解决方法请参考存储容量已经超过最大容量。 账户余额不足欠费后,备份存储库处于冻结状态。 请立即缴清欠款。 执行备份的资源正在执行其他操作。 解决方法请参考执行备份的资源正在执行其他操作。 系统繁忙,任务积压。 请错峰备份或提交工单寻求技术支持。
  • 排查思路 以下排查思路根据原因的出现概率进行排序,建议您从高频率原因往低频率原因排查,从而帮助您快速找到问题的原因。 如果解决完某个可能原因仍未解决问题,请继续排查其他可能原因。 图1 排查思路 表1 排查思路 可能原因 处理措施 eBackup虚拟机上传网速过低,导致以默认配置上传数据时OBS响应超时 eBackup虚拟机上传网速过低(50MB/s以下),导致以默认配置上传数据时OBS响应超时,备份上传失败。原因提示为:Write data to backup storage failed. 解决方法请参考eBackup虚拟机上传网速过低。 eBackup访问虚拟机时,配置的域名无法解析,导致创建快照失败 在eBackup的host文件中配置能够解析虚拟机vCenter的域名。
  • eBackup虚拟机上传网速过低 以hcp用户登录eBackup虚拟机后台,并切换到root账号。 执行以下命令,编辑hcpconf.ini文件。 vim /opt/huawei-data-protection/ebackup/microservice/ebk_vmware/conf/hcpconf.ini 将参数“ProductStorageMemoryPoolBlockNum”和“CommonTaskUsingMaxThread4Backup”的值均修改为“2”。 输入:wq!保存以上修改并退出编辑模式。 进入cd /opt/huawei-data-protection/ebackup/microservice/ebk_vmware/script。 执行sh ebackup_stop.sh,如图2所示。 图2 执行sh ebackup_stop.sh 执行sh ebackup_start.sh,如图3所示。 图3 执行sh ebackup_start.sh 重新下发VMware备份任务,并检查故障是否消除。如仍无法解决,请联系技术支持。
  • 排查思路 以下排查思路根据原因的出现概率进行排序,建议您从高频率原因往低频率原因排查,从而帮助您快速找到问题的原因。 如果解决完某个可能原因仍未解决问题,请继续排查其他可能原因。 表1 排查思路 可能原因 处理措施 备份状态为“正在创建”或者“正在恢复”,导致无法删除。 等待备份完成操作后,再执行删除操作。 云服务器备份已用于创建过镜像,备份的删除按钮为灰色,无法删除备份。 需要先将对应的镜像删除,再进行删除备份。具体操作请参考删除镜像。 系统异常,导致备份删除失败。 尝试重新删除备份,如仍无法删除,请提交工单寻求技术支持。 权限不足 在 IAM 中查看账号是否有删除权限。
  • 资源和成本规划 在实际业务使用时GeminiDB、 GaussDB (for MySQL)服务会产生费用,该解决方案预估的费用,仅供参考,实际收费请参考各个云服务的计费详情。 表1 资源和成本规划(按需计费) 华为云服务 配置示例 每月预估花费 GeminiDB服务 按需计费:5.39元/小时。更多计费详情请参见价格详情。 区域:华北-北京四 节点规格:geminidb.redis.large.4 CPU (2 vCPUs) 节点数量:3 存储容量:40GB 5.39 * 24 * 30 = 3,880.8 元 GaussDB(for MySQL)服务 按需计费:4.74元/小时。更多计费详情请参见价格详情。 区域:华北-北京四 节点规格:独享版,4 vCPUs | 16 GB 只读节点数量:1 4.74 * 24 * 30 = 3,412.8 元 合计 7293.6 元 表2 资源和成本规划(包年包月) 华为云服务 配置示例 每月预估花费 GeminiDB服务 区域:华北-北京四 节点规格:geminidb.redis.large.4 CPU (2 vCPUs) 节点数量:3 存储容量:40GB 1953.4 元 GaussDB(for MySQL)服务 区域:华北-北京四 节点规格:独享版,4 vCPUs | 16 GB 只读节点数量:1 2374 元 合计 4327.4 元
  • (可选)创建rf_admin_trust委托 进入华为云官网,打开控制台管理界面,鼠标移动至个人账号处,打开“ 统一身份认证 ”菜单。 图1 控制台管理界面 图2 统一身份认证菜单 进入“委托”菜单,搜索“rf_admin_trust”委托。 图3 委托列表 如果委托存在,则不用执行接下来的创建委托的步骤 如果委托不存在时执行接下来的步骤创建委托 单击步骤2界面中右上角的“创建委托”按钮,在委托名称中输入“rf_admin_trust”,选择“普通账号”,委托的账号,输入“op_svc_IAC”,单击“下一步”。 图4 创建委托 在搜索框中输入“Tenant Administrator”权限,并勾选搜索结果。 图5 选择策略 选择“所有资源”,并单击下一步完成配置。 图6 设置授权范围 “委托”列表中出现“rf_admin_trust”委托则创建成功。 图7 委托列表
  • 名词解释 基本概念、云服务简介、专有名词解释: GaussDB(for MySQL):是华为自研的最新一代高性能企业级分布式关系型数据库,完全兼容MySQL。基于华为最新一代DFV分布式存储,采用计算存储分离架构,最高支持128TB的海量存储,可实现超百万级QPS吞吐,支持跨AZ部署,既拥有商业数据库的性能和可靠性,又具备开源数据库的灵活性。 GeminiDB:采用云原生分布式架构,完全兼容Redis®协议,支持丰富数据类型。 提供数据实时持久化、多副本强一致保障,以及实时监控、弹性伸缩、自动备份等一站式服务。
  • 创建对接OBS权限的委托 登录华为云管理控制台,选择“统一身份认证服务”。 在左侧导航栏选择“委托”,单击右上角的“创建委托”,选择相关参数,单击“下一步”。 参数选择如下: 委托名称:例如“visit_obs_agency” 委托类型:选择“普通账号” 委托的账号:输入被委托的华为云账号名称 持续时间:根据实际情况自定义 在选择策略界面右上角单击“新建策略”,配置如下信息,单击“下一步”。 策略名称:例如“dev_visit_obs” 策略配置方式:JSON视图 策略内容:填入如下信息。 { "Version": "1.1", "Statement": [ { "Effect": "Allow", "Action": [ "obs:bucket:GetBucketLocation", "obs:bucket:ListBucketMultipartUploads", "obs:object:GetObject", "obs:object:ModifyObjectMetaData", "obs:object:DeleteObject", "obs:object:ListMultipartUploadParts", "obs:bucket:HeadBucket", "obs:object:AbortMultipartUpload", "obs:bucket:ListBucket", "obs:object:PutObject" ], "Resource": [ "OBS:*:*:bucket:*", "OBS:*:*:object:*" ] } ] } Resource参数中“bucket”的参数值表示OBS桶名称,“object”的参数值表示OBS对象名称,可根据需要指定名称。配置为“*”表示对所有OBS桶或OBS对象适用此策略。 其他参数按照实际需求进行配置。 勾选新建的策略名称例如“dev_visit_obs”,单击“下一步”。 “设置最小授权范围”根据实际情况选择授权的资源范围,单击“确定”,创建委托。 在“委托”页面,将鼠标放到新创建的委托名称上,获取具备访问OBS权限的委托ID。
  • 创建LakeFormation数据连接 登录 MRS 控制台,在导航栏选择“数据连接”。 单击“新建数据连接 ”。 参考表1配置相关参数,单击“确定”完成创建。 表1 配置LakeFormation数据连接 参数 说明 类型 选择“LakeFormation”,仅MRS 3.3.0-LTS版本支持连接该类型。 名称 数据连接的名称。 LakeFormation实例 选择LakeFormation实例名称。 该实例需要先在LakeFormation实例创建后在此处引用,具体请参考创建LakeFormation实例。单击“查看LakeFormation实例”查看已创建的实例。 虚拟私有云 需要与待对接的MRS集群在同一虚拟私有云。 子网 选择子网名称。 VPC终端节点 选择VPC终端节点,或单击“创建对应LakeFormation实例的VPC终端节点”进行创建。 选择VPC终端节点后,产生的费用将由VPCEP服务收取。 LakeFormation委托 选择“现有委托”,并选择创建对接LakeFormation权限的委托创建的委托,例如“visit_lakeformation_agency”。 图2 新建LakeFormation数据连接 创建完成后,在“数据连接”页面记录已创建数据连接的ID。
  • 创建对接LakeFormation权限的委托 登录华为云管理控制台,选择“统一身份认证服务”。 在左侧导航栏选择“委托”,单击右上角的“创建委托”,配置相关参数,单击“下一步”。 参数配置如下: 委托名称:例如“visit_lakeformation_agency” 委托类型:选择“普通账号” 委托的账号:输入被委托的华为云账号名称 持续时间:根据实际情况自定义 图1 创建委托 在选择策略界面右上角单击“新建策略”,配置如下信息,单击“下一步”。 策略名称:例如“dev_visit_lakeformation” 策略配置方式:“可视化视图”或“JSON视图” 策略内容: 策略中必须包含“lakeformation:policy:export”和“lakeformation:role:describe”。其他参数按照实际需求进行配置。 可视化视图:“云服务”选择“ 湖仓构建 ”;“操作”中选择所需操作权限。其他参数按照实际需求进行配置。 JSON视图,例如配置策略内容如下: { "Version": "1.1", "Statement": [ { "Effect": "Allow", "Action": [ "lakeformation:table:create", "lakeformation:database:alter", "lakeformation:table:alter", "lakeformation:database:drop", "lakeformation:database:create", "lakeformation:role:describe", "lakeformation:policy:create", "lakeformation:policy:export", "lakeformation:function:alter", "lakeformation:function:describe", "lakeformation:table:drop", "lakeformation:catalog:describe", "lakeformation:table:describe", "lakeformation:function:drop", "lakeformation:database:describe", "lakeformation:function:create", "lakeformation:transaction:operate" ] } ] } 勾选新建的策略名称例如“dev_visit_lakeformation”,单击“下一步”。 “设置最小授权范围”根据实际情况选择授权的资源范围,单击“确定”,创建委托。 在“委托”页面,将鼠标放到新创建的委托名称上,获取具备访问LakeFormation权限的委托ID。
  • 创建对接E CS /BMS云服务委托 登录华为云管理控制台,选择“统一身份认证服务”。 在左侧导航栏选择“委托”,单击右上角的“创建委托”,设置相关参数,单击“下一步”。 参数选择如下: 委托名称:例如“lakeformation_test” 委托类型:选择“云服务” 云服务:选择“ECS BMS” 持续时间:根据实际情况自定义 在选择策略界面右上角单击“新建策略”,配置如下信息,单击“下一步”。 策略名称:自定义 策略配置方式:选择JSON视图 策略内容:配置如下信息 { "Version": "1.1", "Statement": [ { "Action": [ "iam:agencies:assume" ], "Resource": { "uri": [ "/iam/agencies/授予给自身账号具备访问LakeFormation权限的委托ID", "/iam/agencies/授予给自身账号具备访问OBS权限的委托ID" ] }, "Effect": "Allow" } ] } 授予给自身账号具备访问LakeFormation权限的委托ID:可参考6获取。 授予给自身账号具备访问OBS权限的委托ID:可参考6获取。 选择新创建的自定义委托名称,单击“下一步”。 “设置最小授权范围”根据实际情况选择授权的资源范围,单击“确定”,创建委托完成。
  • Doris常用端口 表中涉及端口的协议类型均为:TCP和HTTP。 配置参数 开源默认端口 定制默认端口 端口说明 http_port 8030 29980 FE服务的HTTP端口。 https_port 8050 29991 FE服务的HTTPS端口。 query_port 9030 29982 Doris FE通过MySQL协议查询连接端口。 rpc_port 9020 29981 FE服务的Thrift Server端口。 be_port 9060 29984 BE上Thrift Server的端口号,用于接收来自FE的请求。 brpc_port 8060 29987 BE上的BRPC的端口,用于各BE实例之间进行通讯连接。 heartbeat_service_port 9050 29985 BE上心跳服务端口(Thrift),用于接收来自FE的心跳。 webserver_port 8040 29986 BE上的HTTP Server的服务端口。 broker_ipc_port 8000 29990 Broker上的Thrift Server通信端口,用于接收请求。 single_replica_load_brpc_port 9070 29988 单副本数据导入功能中,Master副本和Slave副本之间通信的RPC端口。 single_replica_load_download_port 8050 29989 单副本数据导入功能中,Slave副本通过HTTP从Master副本下载数据文件的端口。
  • Spark常用端口 表中涉及端口的协议类型均为:TCP。 配置参数 开源默认端口 定制默认端口 端口说明 hive.server2.thrift.port 22550 22550 JDBC thrift端口。 该端口用于: Spark2.1.0 CLI/JDBC与Spark2.1.0 CLI/JDBC服务器进行socket通信。 说明: 如果hive.server2.thrift.port被占用,将抛端口被占用异常。 安装时是否缺省启用:是 安全加固后是否启用:是 spark.ui.port 4040 22950 JDBC的Web UI端口 该端口用于:Web请求与JDBC Server Web UI服务器进行HTTPS/HTTP通信。 说明: 系统会根据端口的设置取值,并验证其有效性;如果无效,端口+1,直到取到有效值为止(上限16次,重试次数可以通过配置spark.port.maxRetries改变)。 安装时是否缺省启用:是 安全加固后是否启用:是 spark.history.ui.port 18080 22500 JobHistory Web UI端口 该端口用于:Web请求与Spark2.1.0 History Server间的HTTPS/HTTP通信 说明: 系统会根据端口的设置取值,并验证其有效性;如果无效,端口+1,直到取到有效值为止(上限16次,重试次数可以通过配置spark.port.maxRetries改变)。 安装时是否缺省启用:是 安全加固后是否启用:是
  • Kerberos常用端口 表中涉及端口的协议类型均为:TCP和UDP。 配置参数 默认端口 端口说明 KADMIN_PORT 21730 kerberos用户管理端口。 该端口用于: kerberos用户管理 安装时是否缺省启用:是 安全加固后是否启用:是 KPASSWD_PORT 21731 kerberos密码修改端口。 该端口用于: kerberos密码修改 安装时是否缺省启用:是 安全加固后是否启用:是 kdc_ports 21732 Kerberos服务端端口 该端口用于: 组件向Kerberos服务认证。配置集群互信可能会用到; 说明: 端口的取值范围为一个建议值,由产品自己指定。在代码中未做端口范围限制。 安装时是否缺省启用:是 安全加固后是否启用:是
  • YARN常用端口 表中涉及端口的协议类型均为:TCP。 配置参数 开源默认端口 定制默认端口 端口说明 yarn.resourcemanager.webapp.port 8088 26000 ResourceManager服务的Web http 端口。 yarn.resourcemanager.webapp.https.port 8090 26001 ResourceManager服务的Web https 端口。 该端口用于:安全模式下,接入Resource Manager Web应用。 说明: 端口的取值范围为一个建议值,由产品自己指定。在代码中未做端口范围限制。 安装时是否缺省启用:是 安全加固后是否启用:是 yarn.nodemanager.webapp.port 8042 26006 NodeManager Web http端口 yarn.nodemanager.webapp.https.port 8044 26010 NodeManager Web https端口。 该端口用于: 安全模式下,接入NodeManager web应用。 说明: 端口的取值范围为一个建议值,由产品自己指定。在代码中未做端口范围限制。 安装时是否缺省启用:是 安全加固后是否启用:是
  • Storm常用端口 表中涉及端口的协议类型均为:TCP。 配置参数 开源默认端口 定制默认端口 端口说明 nimbus.thrift.port 6627 29200 nimbus提供thrift服务 supervisor.slots.ports 6700,6701,6702,6703 29200-29499 接收由其它服务器转发过来的请求 logviewer.https.port 29248 29248 logviewer提供HTTPS服务 ui.https.port 29243 29243 Storm UI提供Https服务(ui.https.port)
  • Presto常用端口 表中涉及端口的协议类型均为:TCP。 配置参数 默认端口 端口说明 http-server.http.port 7520 presto coordinator对外提供服务的HTTP端口。 http-server.https.port 7521 presto coordinator对外提供服务的HTTPS端口。 http-server.http.port 7530 presto worker对外提供服务的HTTP端口。 http-server.https.port 7531 presto worker对外提供服务的HTTPS端口。
  • ClickHouse常用端口 表中涉及端口的协议类型均为:TCP和HTTP。 配置参数 开源默认端口 定制默认端口 端口说明 interserver_http_port 9009 9009 用于在ClickHouse server间通信的http端口。 interserver_https_port 9010 9010 用于在ClickHouse server间通信的https端口。 http_port 8123 8123 用于通过http连接到ClickHouse server的端口。 https_port 8443 8443 用于通过https连接到ClickHouse server的端口。 tcp_port 9000 9000 用于客户端通过TCP连接到ClickHouse server的端口。 tcp_port_secure 9440 9440 用于客户端通过TCP SSL连接到ClickHouse server的端口。 lb_tcp_port 21424 21424 ClickHouseBalancer监听的tcp端口号。 lb_http_port 21425 21425 ClickHouseBalancer监听的http端口号。 lb_https_port 21426 21426 ClickHouseBalancer监听的https端口号。 lb_tcp_secure_port 21428 21428 ClickHouseBalancer监听的tcp ssl端口号。
  • Hive常用端口 表中涉及端口的协议类型均为:TCP。 配置参数 开源默认端口 定制默认端口 端口说明 templeton.port 9111 21055 WebHCat提供REST服务的端口。 该端口用于: WebHCat客户端与WebHCat服务端之间的通信。 安装时是否缺省启用:是 安全加固后是否启用:是 hive.server2.thrift.port 10000 21066 HiveServer提供Thrift服务的端口。 该端口用于: HiveServer客户端与HiveServer之间的通信。 安装时是否缺省启用:是 安全加固后是否启用:是 hive.metastore.port 9083 21088 MetaStore提供Thrift服务的端口。 该端口用于: MetaStore客户端与MetaStore之间的通信,即HiveServer与MetaStore之间通信。 安装时是否缺省启用:是 安全加固后是否启用:是 hive.server2.webui.port 10002 - Hive的Web UI端口。 该端口用Web请求与Hive UI服务器进行HTTPS/HTTP通信。
共100000条