检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Logstash对接Kafka生产消费消息 方案概述 应用场景 Logstash是免费且开放的服务器端数据处理管道，能够从多个来源采集数据，转换数据，然后将数据发送到指定的存储中。Kafka是一种高吞吐量的分布式发布订阅消息系统，也是Logstash支持的众多输入输出源之一。本章节主要介绍
购买Kafka实例 Kafka实例采用物理隔离的方式部署，租户独占Kafka实例。支持用户自定义规格和自定义特性，您可以根据业务需要定制相应计算能力和存储空间的Kafka实例。 准备实例依赖资源 创建Kafka实例前，请提前准备好如表1所示资源。 表1 Kafka实例依赖资源 资源名称
配置Kafka实例回收站策略 开启回收站策略的实例在被删除后，会被临时存入回收站中，此时实例中的数据尚未被彻底删除，在保留天数内支持从回收站中恢复此实例。超过保留天数的实例会被彻底删除，无法恢复。 回收站策略默认是关闭状态。 约束与限制 回收站中的按需实例不会收取实例的费用，但是会收取存储空间的费用
版本支持公告 版本号说明 分布式消息服务Kafka版的版本号格式为：消息引擎类型 x.y.z，其中消息引擎类型为Kafka，版本号具体含义如图1所示。 图1 版本号示例 版本支持情况 分布式消息服务Kafka版支持的版本：1.1.0、2.7、3.x（推荐） 版本生命周期 分布式消息服务
漏洞修复策略 漏洞修复周期 高危漏洞： Kafka社区发现漏洞并发布修复方案后，分布式消息服务Kafka版一般在1个月内进行修复，修复策略与社区保持一致。 操作系统紧急漏洞按照操作系统修复策略和流程对外发布，一般在一个月内提供修复方案，用户自行修复。 其他漏洞： 按照版本正常升级流程解决
版本发布说明 表1列出了分布式消息服务Kafka版相对开源版本新增/优化的特性。 表1 版本发布说明 实例版本 发布时间 新增/优化特性 1.1.0和2.7 2023年7月 控制台支持查看重平衡日志 1.1.0和2.7 2023年4月 控制台支持手动创建消费组 1.1.0和2.7
漏洞公告 漏洞修复策略
产品公告 【下线公告】华为分布式消息服务Kafka版2.3.0版本停售公告
版本公告 版本支持公告 版本发布说明
为什么限制Topic的总分区数？ Kafka以分区为粒度管理消息，分区多导致生产、存储、消费都碎片化，影响性能稳定性。在使用过程中，当Topic的总分区数达到上限后，用户就无法继续创建Topic。 不同规格配置的Topic总分区数不同，如下表所示。 表1 Kafka集群实例规格 规格名称
实例扩容 功能介绍 实例规格变更。 当前页面API为历史版本API，未来可能停止维护。请使用实例扩容。 URI POST /v2/{engine}/{project_id}/instances/{instance_id}/extend 表1 路径参数 参数 是否必选 参数类型 描述
实例扩容 功能介绍 实例规格变更。当前通过调用API，只支持按需实例进行实例扩容。 调用方法 请参见如何调用API。 URI POST /v2/{project_id}/kafka/instances/{instance_id}/extend 表1 路径参数 参数 是否必选 参数类型
消息堆积处理建议 方案概述 Kafka将Topic划分为多个分区，消息被分布式存储在分区中。同一个消费组内，一个消费者可同时消费多个分区，但一个分区在同一时刻只能被一个消费者消费。 在消息处理过程中，如果客户端的消费速度跟不上服务端的发送速度，未处理的消息会越来越多，这部分消息就被称为堆积消息
成长地图 | 华为云 分布式消息服务Kafka版 分布式消息服务Kafka版（Distributed Message Service for Kafka）是一款基于开源社区版Kafka提供的消息队列服务，向用户提供计算、存储和带宽资源独占式的Kafka专享实例。 产品文档 图说Kafka
创建实例 功能介绍 创建实例。 当前页面API为历史版本API，未来可能停止维护。请使用创建实例。 URI POST /v2/{engine}/{project_id}/instances 表1 路径参数 参数 是否必选 参数类型 描述 engine 是 String 消息引擎。
创建Kafka实例 功能介绍 创建实例。 该接口支持创建按需和包周期两种计费方式的实例。 调用方法 请参见如何调用API。 URI POST /v2/{project_id}/kafka/instances 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是
创建Kafka Topic Topic，即消息主题，用于存储消息，供生产者生产消息以及消费者订阅消息。创建Kafka实例成功后，如果未开启“Kafka自动创建Topic”功能，则需要手动创建Topic。如果实例开启了“Kafka自动创建Topic”，则该操作为可选。 “Kafka自动创建
快速入门 场景描述 您可以根据业务需要创建相应计算能力和存储空间的Kafka实例。 API调用方法请参考如何调用API。 前提条件 已获取IAM的Endpoint，具体请参见地区和终端节点。 已获取Kafka的Endpoint，具体请参见地区和终端节点。 创建Kafka实例 如下示例是创建
计费样例 计费场景 某用户于2023/03/18 15:30:00在“亚太-新加坡”区域购买了一个按需计费的Kafka实例，规格配置如下： 规格：kafka.2u4g.cluster*3 总存储空间：高I/O 300GB 用了一段时间后，用户发现Kafka实例当前规格无法满足业务需要
删除Kafka消息 本章节介绍如何在控制台删除Topic中存储的消息。 约束与限制 消息删除后无法恢复，请谨慎操作。 前提条件 删除消息前，请先在消费代码中设置“auto.offset.reset”参数。“auto.offset.reset”用来指定当Kafka中没有初始偏移量或者当前偏移量不存在
