大資料基礎-kakfa的安裝教程

知者乎也發表於2020-12-17

1、準備

kafka叢集搭建是需要一定的基礎作為支撐。

材料版本數量備註
安裝包kafka_2.11-2.0.0 .tgz3
虛擬機器CentOS 7.53
IP/3192.168.28.51/52/53
zookeeper版本任意3
jdk版本7以上3提前安裝好

2、安裝

2.1 安裝jdk

2.2安裝zookeeper

參考另一篇文章:zookeeper的安裝教程

2.3 安裝kafka

安裝目錄是任意選擇的,這裡我們將kafka安裝在/usr/local/kafka 目錄下。
(1)上傳檔案
建立/usr/local/kafka 目錄,將安裝包kafka_2.11-2.0.0 .tgz,上傳到該目錄下。

mkdir -p /usr/local/kafka

(2)解壓檔案
進入/usr/local/kafka目錄中,找到kafka_2.11-2.0.0 .tgz,並解壓。

tar -zxvf kafka_2.11-2.0.0 .tgz

三臺虛擬機器的操作一致,至此安裝步驟就簡單的完成了。

3、配置

在配置環節需要配置三個檔案,分別是server.properties、zookeeper.properties和環境變數。

檔名路徑
server.properties/usr/local/kafka/config/server.properties
zookeeper.properties/usr/local/kafka/config/zookeeper.properties

3.1 配置server.properties

(1)broker.id
broker.id在完全分散式叢集中,每臺伺服器都配置一個獨一無二的值。
即:

伺服器IPbroker.id說明
192.168.28.511這裡從1開始,,依次遞增
192.168.28.522
192.168.28.533

在這裡插入圖片描述
(2)listeners
listeners 設定監聽IP和埠。完全分散式部署條件下,IP不同,埠一致即可。

伺服器編號listeners IP
kafka1192.168.28.519092
kafka2192.168.28.529092
kafka3192.168.28.539092

偽分散式的條件下,埠不同,IP一致即可。
在這裡插入圖片描述
(3)log.dirs
log.dirs定義的是kafka日誌的儲存路徑
在這裡插入圖片描述
(4)zookeeper.connect
zk的配置,這裡需要增加zk叢集所有的伺服器。
在這裡插入圖片描述

(5)server.properties配置概覽

broker.id=1 #broker定義
listeners = PLAINTEXT://192.168.28.51:9092 #監聽埠
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
log.dirs=/tmp/kafka-logs #kafka日誌
num.partitions=1
num.recovery.threads.per.data.dir=1
offsets.topic.replication.factor=1
transaction.state.log.replication.factor=1
transaction.state.log.min.isr=1
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
zookeeper.connect=192.168.28.51:2181,192.168.28.52:2181,192.168.28.53:2181 #重要
zookeeper.connection.timeout.ms=6000
group.initial.rebalance.delay.ms=0

3.2 配置zookeeper.properties

檢查zk的埠配置,預設是2181.。在這裡插入圖片描述

3.3 環境變數

增加kafka的環境變數

#kafka
export KAFKA_HOME=/usr/local/kafka
PATH=${KAFKA_HOME}/bin:$PATH

安裝kafka的環境變數配置如下,包括jdk、zookeeper和kafka的環境變數:
在這裡插入圖片描述

4、啟動與關閉

5、測試

相關文章