日志采集客户端,负责用户各类应用服务的日志数据采集,以消息方式将日志“批量”、“异步”发送到Kafka客户端。 Kafka客户端批量提交和压缩消息,对应用服务的性能影响非常小。 Kafka将日志存储在消息文件中,实现日志的持久化存储。
表1提供了分布式消息服务Kafka版支持的SDK列表,您可以在GitHub仓库查看SDK更新历史、获取安装包以及查看指导文档。 如果无法正常打开GitHub仓库,请检查您所使用的网络是否可以正常访问公网。
历史API API V1 API V2
修订记录 发布日期 修订记录 2025-06-12 本次变更如下: 新增删除消费组在指定Topic的消费位点接口。 2025-06-10 本次变更如下: 新增修改Smart Connect任务配置和校验Connector连通性接口。 2025-04-28 本次变更如下: 新增删除Topic
计费模式 分布式消息服务Kafka版计费模式概述 包年/包月 按需计费
续费概述 续费简介 包年/包月Kafka实例到期后会影响Kafka实例正常运行。如果您想继续使用,需要在指定的时间内为Kafka实例续费,否则Kafka实例资源会自动释放,数据丢失且不可恢复。 续费操作仅适用于包年/包月Kafka实例,按需计费Kafka实例不需要续费,只需要保证账户余额充足即可
在云服务控制台续费 登录Kafka控制台。 通过以下任意一种方法,为Kafka实例续费。 勾选Kafka实例名称左侧的方框,可选一个或多个,单击信息栏左上侧的“续费”,弹出“续费”对话框,单击“确定”,跳转到“续费”页面。
权限管理 创建用户并授权使用DMS for Kafka
测试实例性能 测试Kafka生产速率和CPU消耗 测试Kafka实例TPS
配置Topic 创建Kafka Topic 设置Kafka Topic权限 Topic管理
连接实例 配置Kafka网络连接 配置Kafka访问控制 配置Kafka客户端 使用客户端连接Kafka(明文接入) 使用客户端连接Kafka(密文接入) 使用控制台连接Kafka
迁移数据 Kafka数据迁移概述 使用MirrorMaker跨集群同步数据 使用Smart Connect迁移数据
配置流控 配置Kafka流控 查看Kafka流控统计
Python 本文以Linux CentOS环境为例,介绍Python版本的Kafka客户端连接指导,包括Kafka客户端安装,以及生产、消费消息。 使用前请参考收集连接信息收集Kafka所需的连接信息。 准备环境 Python 一般系统预装了Python,您可以在命令行输入python
Go 本文以Linux CentOS环境为例,介绍Go 1.16.5版本的Kafka客户端连接指导,包括demo代码库的获取,以及生产、消费消息。 使用前请参考收集连接信息收集Kafka所需的连接信息。 准备环境 执行以下命令,检查是否已安装Go。 go version 返回如下回显时
Java Java客户端接入示例 Java开发环境搭建
生产消息失败 问题现象 系统提示“Disk error when trying to access log file on the disk”错误。 根因描述 节点磁盘使用率超高导致生产消息失败。 问题解决措施 扩容实例的磁盘空间,具体操作请参考变更Kafka实例规格。
删除Topic失败 问题现象 删除Topic不生效,删除后该Topic仍然存在。 根因描述 实例开启了自动创建Topic功能,且有消费者正在连接该Topic。如果没有停止业务,删除Topic后,还会有消息生产行为,并自动创建Topic。 问题解决措施 关闭Kafka自动创建Topic
云审计服务(Cloud Trace Service,CTS),是华为云安全解决方案中专业的日志审计服务,提供对各种云资源操作记录的收集、存储和查询功能,可用于支撑安全分析、合规审计、资源跟踪和问题定位等常见应用场景。
Smart Connect用于Kafka实例和其他云服务之间的数据同步,或者两个Kafka实例之间的数据同步,实现数据的备份或迁移。 约束限制: 不涉及。 取值范围: true:开启。 false:不开启。 默认取值: false。