使用 HiveMQ Cloud 在 MQTT 和 Kafka 之间流转 IoT 数据
MQTT 和 Apache Kafka 常常被一起使用,以增强 IoT 和机器对机器(M2M)通信的功能。以下是它们通常被组合使用的一些场景:
数据收集:MQTT 用于从 IoT 设备收集数据并将其发布到 Kafka broker,数据在这里被处理、分析和存储以供将来使用。
实时处理:使用 MQTT 和 Kafka,组织可以构建实时数据处理管道,以处理来自 IoT 设备的大量数据。
通过 HiveMQ Cloud Starter,您现在可以通过我们新的 Kafka 集成将数据流转到 Apache Kafka。
HiveMQ Cloud Kafka 集成
通过以下五个简单步骤,您可以使用您选择的 Apache Kafka 服务从 IoT 设备中获取数据。这些步骤可以大致分为:
- 连接配置参数
- 主题映射参数
连接配置参数帮助建立 HiveMQ Cloud 和您的 Apache Kafka 集群之间的安全连接。主题映射让您能够在您的 MQTT 集群和 Apache Kafka 之间设置双向数据流。
首先,您需要在 HiveMQ Cloud 集群内的“集成”选项卡中找到 Kafka 扩展。这个集成在 HiveMQ Cloud Starter 中可用。
配置您的 Kafka 集成
现在您可以深入了解这五个步骤:
- 连接 HiveMQ Cloud 和您选择的 Kafka 服务:要连接,您需要您的 Kafka 集群的引导服务器列表,以便集成能够获取您的 Kafka 集群的初始元数据。
- 确保连接安全:现在,您需要添加您的 Kafka 凭据。这有助于确保 HiveMQ Cloud 和 Kafka 之间的连接是安全的。
- 将数据从 HiveMQ 发送到 Kafka:一旦您设置并确保连接安全,您可以选择要从 IoT 设备转发的数据。这需要将 HiveMQ Cloud 的主题映射到您的 Kafka 集群。源主题是您希望从 HiveMQ 集群发送的 MQTT 主题。目标主题是接收您的 HiveMQ 集群发送的消息的 Kafka 主题。
- 建立双向通信:要在 Kafka 和 HiveMQ 之间建立双向通信,您可以像定义从 HiveMQ Cloud 到您的 Kafka 集群的主题映射一样配置 Kafka 集群到 HiveMQ Cloud。您还可以使用 ${KAFKA_TOPIC}、${KAFKA_KEY} 或 ${KAFKA_VALUE} 作为 MQTT 主题中的变量部分。这有助于您有效地将一个 Kafka 主题映射到一个或多个 MQTT 主题。在这种情况下,源主题表示集成应该从中读取消息的 Kafka 主题。然后,这些消息会使用在 HiveMQ Cloud MQTT broker 集群上定义的目标主题发布。
- 启用配置:通过选择“启用”按钮,您可以启动 HiveMQ Cloud 集群和您的 Kafka 集群之间的数据流。一旦激活,您会看到顶部出现一个绿色横幅,表示您的集成已激活。
使用 Web 客户端验证数据流
现在您已经启用了集成,您可以使用内置的 web 客户端快速验证 HiveMQ Cloud 和 Kafka 服务器之间的数据流。
为此,您需要输入您的凭据,并在“发布消息”部分添加与配置中输入的相同的主题名称。然后,您可以添加测试消息负载并点击发布按钮,如下图所示。
一旦看到消息被发布,您可以转到您的 Kafka 服务器,并验证数据是否已经流入映射的 Kafka 主题。对于本博文,我们使用了 Confluent Cloud,但您可以使用任何您选择的 Kafka 服务器。
回复