通过华为云Logstash实现Elasticsearch集群间数据迁移 通过备份与恢复实现华为云Elasticsearch集群间数据迁移 通过S3插件备份与恢复迁移自建Elasticsearch集群至华为云 通过备份与恢复迁移第三方Elasticsearch集群至华为云 通过读写分离插
2021年5月 序号 功能名称 功能描述 阶段 相关文档 1 删除泊松分词 云搜索服务下线泊松分词相关的资料描述。 商用 词库管理 2021年3月 序号 功能名称 功能描述 阶段 相关文档 1 Logstash类型集群 云搜索服务支持创建Logstash类型集群。 公测 / 2021年1月
2021年5月 序号 功能名称 功能描述 阶段 相关文档 1 删除泊松分词 云搜索服务下线泊松分词相关的资料描述。 商用 词库管理 2021年3月 序号 功能名称 功能描述 阶段 相关文档 1 Logstash类型集群 云搜索服务支持创建Logstash类型集群。 公测 / 2021年1月
期是“2022.6.02”,创建出来的索引名称为“test-2022.06.02-000001”。 PUT %3Ctest-%7Bnow%2Fd%7D-000001%3E { "aliases": { "log_alias": { "is_write_index":
查看备份的日志文件。 日志备份采用增量备份方式,备份成功后可以单击“备份路径”访问OBS桶获取全量日志文件。 图3 访问OBS桶 日志文件类型如表3所示,其中“clustername”是集群名称。 表3 日志文件类型 日志名称 描述 clustername_deprecation.log 废弃操作日志文件。
查看备份的日志文件。 日志备份采用增量备份方式,备份成功后可以单击“备份路径”访问OBS桶获取全量日志文件。 图3 访问OBS桶 日志文件类型如表3所示,其中“clustername”是集群名称。 表3 日志文件类型 日志名称 描述 clustername_deprecation.log 废弃操作日志文件。
com/huaweicloud/huaweicloud-sdk-go-v3/core/auth/basic" css "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/css/v1" "github.com/hua
数据节点将同时承担集群管理、存储数据、提供接入集群和分析数据的职责。此时,为保证集群中数据的稳定性,建议设置节点数量大于等于3个。 图2 配置数据节点 表3 数据节点配置 参数 示例 说明 CPU架构 X86计算 选择数据节点的CPU架构。支持“X86计算”和“鲲鹏计算”,具体支持的类型由实际区域环境决定。
运行Python代码的服务器与OpenSearch集群之间网络互通。 根据集群的网络配置方式,获取集群的访问地址,操作指导请参见网络配置。 确认服务器已安装Python3。 安装Python客户端库 在运行Python代码的服务器中安装Python客户端库。 CSS服务支持使用Elasticsearch 7.10
查看备份的日志文件。 日志备份采用增量备份方式,备份成功后可以单击“备份路径”访问OBS桶获取全量日志文件。 图3 访问OBS桶 日志文件类型如表3所示,其中“clustername”是集群名称。 表3 日志文件类型 日志名称 描述 clustername_deprecation.log 废弃操作日志文件。
期是“2022.6.02”,创建出来的索引名称为“test-2022.06.02-000001”。 PUT %3Ctest-%7Bnow%2Fd%7D-000001%3E { "aliases": { "log_alias": { "is_write_index":
com/huaweicloud/huaweicloud-sdk-go-v3/core/auth/basic" css "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/css/v1" "github.com/hua
建议手动调整数据迁移速率,避免在业务高峰期操作。 无Master节点的集群:当数据节点数和冷数据节点数之和大于或等于3时(即“ 数据节点数 + 冷数据节点数 ≥ 3”)才支持缩容。单次缩容的数据节点数和冷数据节点数之和要小于缩容前数据节点数和冷数据节点数之和的一半,即“ 单次缩容的(数据节点数
建议手动调整数据迁移速率,避免在业务高峰期操作。 无Master节点的集群:当数据节点数和冷数据节点数之和大于或等于3时(即“ 数据节点数 + 冷数据节点数 ≥ 3”)才支持缩容。单次缩容的数据节点数和冷数据节点数之和要小于缩容前数据节点数和冷数据节点数之和的一半,即“ 单次缩容的(数据节点数
16u64g,查询QPS要求为1000,平均查询响应时间要求为100ms,索引规划3个分片、2个副本,则: 写入节点数=100÷16÷1x2=12 查询节点数=1000÷(16x3÷2÷0.1)x3=12 数据节点数+冷数据节点数=写入节点数+查询节点数=12+12=24 Master节点配置建议
16u64g,查询QPS要求为1000,平均查询响应时间要求为100ms,索引规划3个分片、2个副本,则: 写入节点数=100÷16÷1x2=12 查询节点数=1000÷(16x3÷2÷0.1)x3=12 数据节点数+冷数据节点数=写入节点数+查询节点数=12+12=24 Master节点配置建议
数据节点将同时承担集群管理、存储数据、提供接入集群和分析数据的职责。此时,为保证集群中数据的稳定性,建议设置节点数量大于等于3个。 图2 配置数据节点 表3 数据节点配置 参数 示例 说明 CPU架构 X86计算 选择数据节点的CPU架构。支持“X86计算”和“鲲鹏计算”,具体支持的类型由实际区域环境决定。
自定义导出1~200条数据,缺省导出200条数据。 Elasticsearch SQL语句请参见查询Elasticsearch SQL 图3 SQL Workbench 父主题: CSS集群迁移
8.0 # OpenSearch 1.3.6 pip install opensearch-py==1.1.0 代码示例 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27
在切换可用区前,建议备份所有关键数据,以免造成数据丢失。 约束限制 为了保证业务的连续性,集群中数据节点数和冷数据节点数之和要大于或等于3,即“数据节点数+冷数据节点数 ≥ 3”。 切换过程中会逐一下线节点再重建节点,需要保证单节点下线后,其余节点的磁盘容量能够接纳该节点的所有数据,且磁盘使用率小于80%。