大資料基礎-kakfa的安裝教程
序
1、準備
kafka叢集搭建是需要一定的基礎作為支撐。
材料 | 版本 | 數量 | 備註 |
---|---|---|---|
安裝包 | kafka_2.11-2.0.0 .tgz | 3 | |
虛擬機器 | CentOS 7.5 | 3 | |
IP | / | 3 | 192.168.28.51/52/53 |
zookeeper | 版本任意 | 3 | |
jdk | 版本7以上 | 3 | 提前安裝好 |
2、安裝
2.1 安裝jdk
略
2.2安裝zookeeper
參考另一篇文章:zookeeper的安裝教程
2.3 安裝kafka
安裝目錄是任意選擇的,這裡我們將kafka安裝在/usr/local/kafka 目錄下。
(1)上傳檔案
建立/usr/local/kafka 目錄,將安裝包kafka_2.11-2.0.0 .tgz,上傳到該目錄下。
mkdir -p /usr/local/kafka
(2)解壓檔案
進入/usr/local/kafka目錄中,找到kafka_2.11-2.0.0 .tgz,並解壓。
tar -zxvf kafka_2.11-2.0.0 .tgz
三臺虛擬機器的操作一致,至此安裝步驟就簡單的完成了。
3、配置
在配置環節需要配置三個檔案,分別是server.properties、zookeeper.properties和環境變數。
檔名 | 路徑 |
---|---|
server.properties | /usr/local/kafka/config/server.properties |
zookeeper.properties | /usr/local/kafka/config/zookeeper.properties |
3.1 配置server.properties
(1)broker.id
broker.id在完全分散式叢集中,每臺伺服器都配置一個獨一無二的值。
即:
伺服器IP | broker.id | 說明 |
---|---|---|
192.168.28.51 | 1 | 這裡從1開始,,依次遞增 |
192.168.28.52 | 2 | |
192.168.28.53 | 3 |
(2)listeners
listeners 設定監聽IP和埠。完全分散式部署條件下,IP不同,埠一致即可。
伺服器編號 | listeners IP | 埠 |
---|---|---|
kafka1 | 192.168.28.51 | 9092 |
kafka2 | 192.168.28.52 | 9092 |
kafka3 | 192.168.28.53 | 9092 |
偽分散式的條件下,埠不同,IP一致即可。
(3)log.dirs
log.dirs定義的是kafka日誌的儲存路徑
(4)zookeeper.connect
zk的配置,這裡需要增加zk叢集所有的伺服器。
(5)server.properties配置概覽
broker.id=1 #broker定義
listeners = PLAINTEXT://192.168.28.51:9092 #監聽埠
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
log.dirs=/tmp/kafka-logs #kafka日誌
num.partitions=1
num.recovery.threads.per.data.dir=1
offsets.topic.replication.factor=1
transaction.state.log.replication.factor=1
transaction.state.log.min.isr=1
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
zookeeper.connect=192.168.28.51:2181,192.168.28.52:2181,192.168.28.53:2181 #重要
zookeeper.connection.timeout.ms=6000
group.initial.rebalance.delay.ms=0
3.2 配置zookeeper.properties
檢查zk的埠配置,預設是2181.。
3.3 環境變數
增加kafka的環境變數
#kafka
export KAFKA_HOME=/usr/local/kafka
PATH=${KAFKA_HOME}/bin:$PATH
安裝kafka的環境變數配置如下,包括jdk、zookeeper和kafka的環境變數:
4、啟動與關閉
5、測試
相關文章
- 大資料專欄 - 基礎1 Hadoop安裝配置大資料Hadoop
- 大資料基礎教程:建立RDD的二種方式大資料
- Redis資料庫的安裝與基礎命令Redis資料庫
- 大資料基礎學習-1.CentOS-7.0環境安裝大資料CentOS
- 資料庫安裝以及基礎知識資料庫
- 資料庫基礎教程資料庫
- Tomcat:基礎安裝和使用教程Tomcat
- 大資料基礎Hadoop 3.1.1 的高可用HA安裝~踩坑記錄大資料Hadoop
- 達夢資料庫安裝及基礎操作資料庫
- 大資料——HBase基礎大資料
- ComfyUI 基礎教程(一) —— 本地安裝部署UI
- mySQL的安裝和基礎使用及語法教程MySql
- 大資料:大資料之基礎語法大資料
- 大快搜尋的大資料一體化開發框架下的大資料爬蟲安裝教程大資料框架爬蟲
- 《資料探勘基礎教程》書評
- 【大資料】Spark RDD基礎大資料Spark
- 2. 大資料基礎大資料
- 達夢資料庫odbc的安裝教程資料庫
- 大資料需要掌握的數學基礎大資料
- sql大資料 基礎(檢視)SQL大資料
- 基礎資料結構大賞資料結構
- 大資料基本公式——一:基礎大資料公式
- 大資料工程師:大資料的java基礎 第十週大資料工程師Java
- Python 快速教程(基礎篇02):基礎資料型別Python資料型別
- 【Redis學習⑴】Redis入門安裝及基礎資料的知識Redis
- 用好工業大資料的基礎是資料質量大資料
- MySQL基礎知識(一)-超詳細MySQL安裝教程MySql
- 大資料學習方法,學大資料需要的基礎和路線大資料
- 女生適合學Python還是大資料?Python基礎教程!Python大資料
- 通俗易懂的Redis資料結構基礎教程Redis資料結構
- Spark修煉之道(基礎篇)——Linux大資料開發基礎:第一節、Linux介紹、安裝及使用初步SparkLinux大資料
- 大資料解決方案-(基礎篇)大資料
- 大資料基礎架構總結大資料架構
- 大資料基礎(一)——關係+文章大資料
- 大資料基礎----Python入門大資料Python
- CDH安裝大資料叢集大資料
- 零基礎虛擬主機簡單安裝wordpress教程
- 好程式設計師大資料基礎教程分享TextFile分割槽問題程式設計師大資料