大資料基礎-kakfa的安裝教程
序
1、準備
kafka叢集搭建是需要一定的基礎作為支撐。
材料 | 版本 | 數量 | 備註 |
---|---|---|---|
安裝包 | kafka_2.11-2.0.0 .tgz | 3 | |
虛擬機器 | CentOS 7.5 | 3 | |
IP | / | 3 | 192.168.28.51/52/53 |
zookeeper | 版本任意 | 3 | |
jdk | 版本7以上 | 3 | 提前安裝好 |
2、安裝
2.1 安裝jdk
略
2.2安裝zookeeper
參考另一篇文章:zookeeper的安裝教程
2.3 安裝kafka
安裝目錄是任意選擇的,這裡我們將kafka安裝在/usr/local/kafka 目錄下。
(1)上傳檔案
建立/usr/local/kafka 目錄,將安裝包kafka_2.11-2.0.0 .tgz,上傳到該目錄下。
mkdir -p /usr/local/kafka
(2)解壓檔案
進入/usr/local/kafka目錄中,找到kafka_2.11-2.0.0 .tgz,並解壓。
tar -zxvf kafka_2.11-2.0.0 .tgz
三臺虛擬機器的操作一致,至此安裝步驟就簡單的完成了。
3、配置
在配置環節需要配置三個檔案,分別是server.properties、zookeeper.properties和環境變數。
檔名 | 路徑 |
---|---|
server.properties | /usr/local/kafka/config/server.properties |
zookeeper.properties | /usr/local/kafka/config/zookeeper.properties |
3.1 配置server.properties
(1)broker.id
broker.id在完全分散式叢集中,每臺伺服器都配置一個獨一無二的值。
即:
伺服器IP | broker.id | 說明 |
---|---|---|
192.168.28.51 | 1 | 這裡從1開始,,依次遞增 |
192.168.28.52 | 2 | |
192.168.28.53 | 3 |
(2)listeners
listeners 設定監聽IP和埠。完全分散式部署條件下,IP不同,埠一致即可。
伺服器編號 | listeners IP | 埠 |
---|---|---|
kafka1 | 192.168.28.51 | 9092 |
kafka2 | 192.168.28.52 | 9092 |
kafka3 | 192.168.28.53 | 9092 |
偽分散式的條件下,埠不同,IP一致即可。
(3)log.dirs
log.dirs定義的是kafka日誌的儲存路徑
(4)zookeeper.connect
zk的配置,這裡需要增加zk叢集所有的伺服器。
(5)server.properties配置概覽
broker.id=1 #broker定義
listeners = PLAINTEXT://192.168.28.51:9092 #監聽埠
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
log.dirs=/tmp/kafka-logs #kafka日誌
num.partitions=1
num.recovery.threads.per.data.dir=1
offsets.topic.replication.factor=1
transaction.state.log.replication.factor=1
transaction.state.log.min.isr=1
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
zookeeper.connect=192.168.28.51:2181,192.168.28.52:2181,192.168.28.53:2181 #重要
zookeeper.connection.timeout.ms=6000
group.initial.rebalance.delay.ms=0
3.2 配置zookeeper.properties
檢查zk的埠配置,預設是2181.。
3.3 環境變數
增加kafka的環境變數
#kafka
export KAFKA_HOME=/usr/local/kafka
PATH=${KAFKA_HOME}/bin:$PATH
安裝kafka的環境變數配置如下,包括jdk、zookeeper和kafka的環境變數:
4、啟動與關閉
5、測試
相關文章
- 大資料專欄 - 基礎1 Hadoop安裝配置大資料Hadoop
- Redis資料庫的安裝與基礎命令Redis資料庫
- 大資料基礎教程:建立RDD的二種方式大資料
- 大資料基礎學習-1.CentOS-7.0環境安裝大資料CentOS
- 資料庫安裝以及基礎知識資料庫
- 大資料基礎Hadoop 3.1.1 的高可用HA安裝~踩坑記錄大資料Hadoop
- ComfyUI 基礎教程(一) —— 本地安裝部署UI
- 達夢資料庫安裝及基礎操作資料庫
- 大資料——HBase基礎大資料
- 【AutoCAD 2025基礎版下載與安裝教程】
- 大快搜尋的大資料一體化開發框架下的大資料爬蟲安裝教程大資料框架爬蟲
- 大資料:大資料之基礎語法大資料
- 達夢資料庫odbc的安裝教程資料庫
- 女生適合學Python還是大資料?Python基礎教程!Python大資料
- 2. 大資料基礎大資料
- 【大資料】Spark RDD基礎大資料Spark
- 怎樣安裝Linux系統?Linux基礎教程之小白入門Linux系統安裝教程Linux
- 【Redis學習⑴】Redis入門安裝及基礎資料的知識Redis
- 大資料需要掌握的數學基礎大資料
- MySQL基礎知識(一)-超詳細MySQL安裝教程MySql
- 大資料基本公式——一:基礎大資料公式
- 基礎資料結構大賞資料結構
- sql大資料 基礎(檢視)SQL大資料
- 【Hadoop】大資料安裝部署之虛擬機器的安裝Hadoop大資料虛擬機
- 通俗易懂的Redis資料結構基礎教程Redis資料結構
- Spring Cloud Alibaba基礎教程:Nacos的資料持久化SpringCloud持久化
- 用好工業大資料的基礎是資料質量大資料
- CDH安裝大資料叢集大資料
- AndoridSQLite資料庫開發基礎教程(6)SQLite資料庫
- AndoridSQLite資料庫開發基礎教程(5)SQLite資料庫
- AndoridSQLite資料庫開發基礎教程(4)SQLite資料庫
- AndoridSQLite資料庫開發基礎教程(10)SQLite資料庫
- AndoridSQLite資料庫開發基礎教程(9)SQLite資料庫
- AndoridSQLite資料庫開發基礎教程(8)SQLite資料庫
- AndoridSQLite資料庫開發基礎教程(7)SQLite資料庫
- 大資料學習方法,學大資料需要的基礎和路線大資料
- 手把手0基礎Centos下安裝與部署paddleOcr 教程CentOS
- 零基礎虛擬主機簡單安裝wordpress教程