检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
商用 2 集群节点支持竞价实例计费模式 CCE支持使用竞价计费型的弹性云服务器作为集群节点,在该计费模式下,您可以以折扣价购买并使用弹性云服务器,性能与常规云服务器无异。
弹性云服务器ECS:一种可随时自助获取、可弹性伸缩的云服务器,帮助用户打造可靠、安全、灵活、高效的应用环境,确保服务持久稳定运行,提升运维效率。 虚拟私有云VPC:是用户在云上申请的隔离的、私密的虚拟网络环境。
大规模组网:云原生网络2.0当前最大可支持2000个ECS节点,10万个Pod。
节点/节点池管理 异构资源管理:全面适配华为云各类计算实例,支持虚拟机和裸机混合部署、高性价比鲲鹏实例、GPU和昇腾算力。详情请参见节点概述和节点池概述。
此外,使用VPC网络模型的集群时,由于VPC路由表中自动配置了容器网段与VPC网段之间的路由,可以支持同一VPC内的云服务器从集群外直接访问容器实例等特殊场景。 容器隧道网络模型是在主机网络平面的基础上,通过隧道封装技术来构建一个独立的容器网络平面。
计费场景 某用户购买了一个按需计费的集群用于业务上云测试,集群中使用资源及配置如下: 表1 初始集群资源及配置 资源类型 计费开始时间 初始计费模式 初始规格配置 数量 集群 2023/03/18 15:30:00 按需计费 区域:香港 集群规模:50节点 高可用:是 1 节点(弹性云服务器
参数 示例 参数说明 节点类型 弹性云服务器-虚拟机 请根据不同的业务诉求选择节点类型,“节点规格”列表中将自动为您筛选该类型下可部署容器服务的规格,供您进一步选择。 节点规格 通用计算增强型 4 vCPUs | 8 GiB 请根据业务需求选择相应的节点规格。
表3 运维可靠性 类别 评估项目 类型 影响说明 FAQ&样例 工程 ECS、VPC、子网、EIP及EVS等资源配额是否满足客户需求。 部署 配额不足会导致创建资源失败,对于配置了自动扩容的用户尤其需要保障所使用的云服务配额充足。 使用CCE需要关注哪些配额限制?
在已有的ECS中安装kubectl,并使用kubectl连接集群,具体操作请参见通过kubectl连接集群。
集群所在VPC下,已创建绑定弹性公网IP的ECS虚拟机,且该ECS通过kubectl连接集群。若没有连接集群,请参照通过kubectl连接集群。 步骤一:创建OBS桶策略和桶ACL 账户A对OBS配置桶策略和桶ACL,授予账号B相应的权限(如读写权限)。
表4 ClusterNodeInformationMetadata 参数 是否必选 参数类型 描述 name 是 String 节点名称 说明: 修改节点名称后,弹性云服务器名称(虚拟机名称)会同步修改。
ecsGroupId String 参数解释: 云服务器组ID,若指定,将节点创建在该云服务器组下。 约束限制: 创建节点池时该配置不会生效,若要保持节点池中的节点都在同一个云服务器组内,请在节点池 nodeManagement 字段中配置。
ecsGroupId String 参数解释: 云服务器组ID,若指定,将节点创建在该云服务器组下。 约束限制: 创建节点池时该配置不会生效,若要保持节点池中的节点都在同一个云服务器组内,请在节点池 nodeManagement 字段中配置。
ecsGroupId String 参数解释: 云服务器组ID,若指定,将节点创建在该云服务器组下。 约束限制: 创建节点池时该配置不会生效,若要保持节点池中的节点都在同一个云服务器组内,请在节点池 nodeManagement 字段中配置。
cce-gpu-topology-priority - name: xgpu - plugins: - name: nodelocalvolume - name: nodeemptydirvolume - name: nodeCSIscheduling
配置示例如下: server { listen 80 backlog=1024; ... 如果未配置backlog值,则该值默认为511。
删除或修改/opt/cloud/cce、/var/paas目录,删除数据盘 节点不可用 重置节点,具体请参见重置节点。 修改节点内目录权限、容器目录权限等。
在已有的ECS中安装kubectl,并使用kubectl连接集群,具体操作请参见通过kubectl连接集群。 执行以下命令,创建名为vllm-lws的YAML文件,用于部署vLLM分布式推理服务。
参数 示例 参数说明 节点类型 弹性云服务器-虚拟机 请根据不同的业务诉求选择节点类型,“节点规格”列表中将自动为您筛选该类型下可部署容器服务的规格,供您进一步选择。 节点规格 通用计算增强型 4 vCPUs | 8 GiB 请根据业务需求选择相应的节点规格。
例如,用户要调用接口来查询云服务器列表,那么这个IAM用户被授予的策略中必须包含允许“ecs:servers:list”的授权项,该接口才能调用成功。