Featured image of post Kafka集群搭建
中间件

Kafka集群搭建

# Kafka集群搭建

# 使用场景

  • 异步处理： 如用户注册后，发送注册邮件，再发送注册短信。
  • 应用解耦： 如用户下单后，订单系统需要通知库存系统。
  • 流量削峰：如秒杀活动，一般会因为流量过大，导致流量暴增。
  • 日志处理：解决大量日志采集后的传输问题。消息队列负责日志后续处理转发。
  • 消息通讯：

# 优点

  • 高吞吐量，非常普通的应将kafka也可以支持每秒数百万的消息。

  • 支持通过kafka服务器和消费机集群来区分消息。

  • 支持hadoop并行数据加载。

# 关键概念：

  • broker: kafka集群中的一台或多台服务器统称broker。

  • Topic： kafka处理的消息源（feeds of messages）的不同分类。

  • partition：Topic物理机上的分组，一个topic可分为多个partition，每个partition是一个有序的队列。其中的每条消息都会被分配一个有序的id（offset）。

  • Message ：消息，是通信的基本单位。每个producer可以向一个topic（主题）发布一些消息。

  • Producers：消息和数据的生产者，向kafka的一个topic发布消息的过程叫producers。

  • consumers：消息和数据消费者，订阅topic并处理其发布的消息的过程叫做consumers。

# 安装运行

官网地址：http://kafka.apache.org/downloads

# 1. 软件环境

  • CenOS7/Ubuntu 虚拟机三台。
  • 已经搭建好的zookeeper集群。
  • 软件版本：kafka_2.12-2.2.0

# 2. 安装步骤

  • 下载官方二进制包
1

wget https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.2.0/kafka_2.12-2.2.0.tgz

1558545503830

  • 解压
1

tar -zxvf kafka_2.12-2.2.0.tgz -C /usr/local/
  • 修改配置文件
1

vim /usr/local/kafka_2.12-2.2.0/config/server.properties

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19

# 不可重复
# 这是这台虚拟机上的值，在另外两台虚拟机上应该是2或者3，
# 这个值是唯一的，每台虚拟机或者叫服务器不能相同
broker.id=1

# 填写本机ip
listeners=PLAINTEXT://192.168.137.200:9092

log.retention.hours=24

# 新增下面三项
message.max.byte=5242880
default.replication.factor=2
replica.fetch.max.bytes=5242880

# 设置zookeeper的连接端口,新版本的kafka不再使用zookeeper
# 而是通过brokerlist的配置让producer直接连接broker
# 这个brokerlist可以配置多个，只要有一个能连接上，就可以让producer获取道集群中的其他broker的信息,绕过了zookeeper
zookeeper.connect=192.168.137.1:2181,192.168.137.1:2182,192.168.137.1:2183

# 3. 启动运行

1
2
3
4
5

# 进入kafka的bin目录
cd /usr/local/kafka_2.12-2.2.0/bin/

# 启动kafka
./kafka-server-start.sh -daemon ../config/server.properties

  • 检测是否启动成功

    1

    jps

    1558551474814

# 4. 验证是否创建成功

  • 创建 topic
1

./kafka-topics.sh --create --zookeeper 192.168.137.1:2181 --replication-factor 2 --partitions 1 --topic my-topic

参数解释：

--replication-factor 2 // 复制两份 --partitions 1 // 创建1个分区 --topic // 主题为my-topic -- --zookeeper // 此处为为zookeeper监听的地址

  • 创建生产者 producer
1
2

# IP地址可以写brokerlist中的任意一个
./kafka-console-producer.sh --broker-list 192.168.137.200:9092 --topic my-topic

此时，console处于阻塞状态，可以直接输入数据。

  • 创建消费者 consumer
1
2

# 要切换到另一台虚拟机的shell界面输入以下命令
./kafka-console-consumer.sh --bootstrap-server 192.168.137.100:9092 --topic my-topic --from-beginning
  • 显示所有topic
1

./kafka-topics.sh --list --zookeeper 192.168.137.1:2181

# 5. 常用配置详解

  • broker配置参数
参数默认值描述
broker.id-1每一个boker都有一个唯一的id作为它们的名字。当该服务器的IP地址发生改变时，broker.id没有变化，则不会影响consumers的消息情况
port9092broker server服务端口
host.name""broker的主机地址，若是设置了，那么会绑定到这个地址上，若是没有，会绑定到所有的接口上，并将其中之一发送到ZK
log.dirs/tmp/kafka-logskafka数据的存放地址，多个地址的话用逗号分割,多个目录分布在不同磁盘上可以提高读写性能 /data/kafka-logs-1，/data/kafka-logs-2
message.max.bytes1000012表示消息体的最大大小，单位是字节
num.network.threads3broker处理消息的最大线程数，一般情况下数量为cpu核数
num.io.threads8处理IO的线程数
log.flush.interval.messagesLong.MaxValue在数据被写入到硬盘和消费者可用前最大累积的消息的数量
log.flush.interval.msLong.MaxValue在数据被写入到硬盘前的最大时间
log.flush.scheduler.interval.msLong.MaxValue检查数据是否要写入到硬盘的时间间隔。
log.retention.hours168 (24*7)控制一个log保留多长个小时
log.retention.bytes-1控制log文件最大尺寸
log.cleaner.enablefalse是否log cleaning
log.cleanup.policydeletedelete还是compat.
log.segment.bytes1073741824单一的log segment文件大小
log.roll.hours168开始一个新的log文件片段的最大时间
background.threads10后台线程序
num.partitions1默认分区数
socket.send.buffer.bytes102400socket SO_SNDBUFF参数
socket.receive.buffer.bytes102400socket SO_RCVBUFF参数
zookeeper.connect指定zookeeper连接字符串， 格式如hostname:port/chroot。chroot是一个namespace
zookeeper.connection.timeout.ms6000指定客户端连接zookeeper的最大超时时间
zookeeper.session.timeout.ms6000连接zk的session超时时间
zookeeper.sync.time.ms2000zk follower落后于zk leader的最长时间
  • -high-level consumer的配置参数
参数默认值描述
groupidgroupid一个字符串用来指示一组consumer所在的组
socket.timeout.ms30000socket超时时间
socket.buffersize64*1024socket receive buffer
fetch.size300 * 1024控制在一个请求中获取的消息的字节数。 这个参数在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代
backoff.increment.ms1000这个参数避免在没有新数据的情况下重复频繁的拉数据。 如果拉到空数据，则多推后这个时间
queued.max.message.chunks2high level consumer内部缓存拉回来的消息到一个队列中。 这个值控制这个队列的大小
auto.commit.enabletrue如果true,consumer定期地往zookeeper写入每个分区的offset
auto.commit.interval.ms10000往zookeeper上写offset的频率
auto.offset.resetlargest如果offset出了返回，则 smallest: 自动设置reset到最小的offset. largest : 自动设置offset到最大的offset. 其它值不允许，会抛出异常.
consumer.timeout.ms-1默认-1,consumer在没有新消息时无限期的block。如果设置一个正值， 一个超时异常会抛出
rebalance.retries.max4rebalance时的最大尝试次数
  • producer的配置参数
参数默认值描述
producer.typesync指定消息发送是同步还是异步。异步asyc成批发送用kafka.producer.AyncProducer， 同步sync用kafka.producer.SyncProducer
metadata.broker.listboker list使用这个参数传入boker和分区的静态信息，如host1:port1,host2:port2, 这个可以是全部boker的一部分
compression.codecNoCompressionCodec消息压缩，默认不压缩
compressed.topicsnull在设置了压缩的情况下，可以指定特定的topic压缩，未指定则全部压缩
message.send.max.retries3消息发送最大尝试次数
retry.backoff.ms300每次尝试增加的额外的间隔时间
topic.metadata.refresh.interval.ms600000定期的获取元数据的时间。当分区丢失，leader不可用时producer也会主动获取元数据，如果为0，则每次发送完消息就获取元数据，不推荐。如果为负值，则只有在失败的情况下获取元数据。
queue.buffering.max.ms5000在producer queue的缓存的数据最大时间，仅仅for asyc
queue.buffering.max.message10000producer 缓存的消息的最大数量，仅仅for asyc
queue.enqueue.timeout.ms-10当queue满时丢掉，负值是queue满时block,正值是queue满时block相应的时间，仅仅for asyc
batch.num.messages200一批消息的数量，仅仅for asyc
request.required.acks00表示producer无需等待leader的确认，1代表需要leader确认写入它的本地log并立即确认，-1代表所有的备份都完成后确认。 仅仅for sync
request.timeout.ms10000确认超时时间

# Kafka-manager 搭建

下载地址:https://github.com/yahoo/kafka-manager/releases

1
2
3
4
5
6

# 在线下载
wget https://github.com/yahoo/kafka-manager/archive/2.0.0.2.tar.gz
# 解压到 /usr/local
tar -zxvf 2.0.0.2.tar.gz -C /usr/local
# 修改配置
vim /usr/local/kafka-manager-2.0.0.2/conf/application.conf
  • 编辑配置文件 application.conf
1
2
3
4
5
6

## 注释这一行，下面添加一行
# kafka-manager.zkhosts="kafka-manager-zookeeper:2181" 

## 根据自己的zookeeper重新配置
kafka-manager.zkhosts="192.168.137.1:2181,192.168.137.1:2182,192.168.137.1:2183"
  • 启动 Kafka-manager
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

# 切换到bin目录
cd /usr/local/kafka-manager-2.0.0.2/

# 执行生成zip部署文件
./sbt clean dist

# 打包结束后,提取zip文件并解压到/usr/local
unzip /usr/local/kafka-manager-2.0.0.2/target/universal/kafka-manager-2.0.0.2.zip

# 移动到/usr/local/
mv kafka-manager-2.0.0.2 /usr/local/kafka-manager

# 启动项目 
# -Dhttp.port，指定端口,默认端口 9000 
# -Dconfig.file=conf/application.conf 指定配置文件:

# 切换到目录,
cd /usr/local/kafka-manager/bin

# 方式1 简单启动
./bin/kafka-manager

# 方式2 指定配置,端口,后台启动
nohup ./kafka-manager -Dconfig.file=../conf/application.conf -Dhttp.port=9000 &
© 2016 - 2024 牛哥聊技术
使用 Hugo 构建
主题 Stack 由 Jimmy 设计