Kafka集群部署(手把手部署图文详细版)

在node02上执行以下命令,拷贝kafka_2.11-0.10.1.1到node03、4的“/usr/local”目录下。在node02、3、4上执行以下命令,都可以查看到上一步骤创建的topic主题。添加完成...

大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新

上节研究了SparkStreamingKafka的Offset管理,同时使用Scala实现了自定义的Offset管理。本节继续研究,使用Redis对Kafka的Offset进行管理。Redis作为一个高效的内...

Linux 安装 kafka

本文详细介绍了ApacheKafka的安装过程,包括Java环境准备、安装包下载、配置broker、topic、partition以及如何在Springboot中集成Kafka。涵盖了Kafka的核心概念和实战步...

大数据-67 Kafka 高级特性 分区 分配策略 Ranger、RoundRobin、Sticky、自定义分区器

上节Kafka高级特性分区-副本数量调整,业务中遇到副本调整需求,但是无法直接修改,需要JSON+脚本的方式来进行配置。本节分区-分区策略,有Ranger、RoundRobin、Sticky等策略,最后实现自定义...

Kafka事务实现原理

1Kafka的事务V.SRocketMQRocketMQ事务主要解决问题:确保执行本地事务和发消息这俩操作都成功/失败。RocketMQ还有事务反查机制兜底,更提高事务执行的成功率和数据一致性。而Kafka事务,是为确保在一个事务中发送的多条消息,要...

大数据-103 Spark Streaming Kafka Offset管理详解 Scala自定义Offset

上节研究了SparkStreaming与Kafka的关系,研究了08、10版本的不同的,研究了Producer、KafkaDStream,并且附带实例代码。在DStream初始化的时候,需要指定每个分区的Off...

大数据-73 Kafka 高级特性 稳定性-事务 相关配置 事务操作Java 幂等性 仅一次发送

上节研究Kafka事务配置,事务语义、事务协调器等内容,本节继续研究Kafka高级事务,事务操作Java调用,实现生产者仅发送一次消息。只要Producer生产消息,这种场景需要事务的介入消费消息和生产消息并存,比如...

4. kafka消息监控客户端工具

本项目是一个kaf秋aGU客户端,支持各个系统,开源免费、简单好用。_kafkawindows监听工具...

大数据-78 Kafka 集群模式 集群的应用场景与Kafka集群的搭建 三台云服务器

上节研究了Kafka的延时队列、重试队列。本节进入Kafka最后的环节,Kafka集群模式的搭建。多节点的Kafka集群搭建。Kafka的需要用户在由多个阶段组成的处理管道中处理数据,其中原始输入数据从Kafka主题...

Linux 搭建 Kafka 环境 - 详细教程

Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。该项目的目标是为处理实时数据提供一个统一、高吞吐、低延迟的平台。其持久化层本质上是一个“按照分布式事务日志架构的大规模发布...