Kafka 配置引數彙總及相關說明

五柳-先生發表於2015-11-17
Kafka
問題導讀
1、如何深入理解kafka？
2、kafka有哪些重要的配置引數？





Kafka為broker,producer和consumer提供了很多的配置引數。 瞭解並理解這些配置引數對於我們使用kafka是非常重要的。
本文列出了一些重要的配置引數。
官方的文件 Configuration比較老了，很多引數有所變動， 有些名字也有所改變。我在整理的過程中根據0.8.2的程式碼也做了修正。

Boker配置引數
下表列出了Boker的重要的配置引數， 更多的配置請參考 kafka.server.KafkaConfig



name 預設值 描述
brokerid
none
每一個boker都有一個唯一的id作為它們的名字。 這就允許boker切換到別的主機/埠上， consumer依然知道
enable.zookeeper
true
允許註冊到zookeeper
log.flush.interval.messages
Long.MaxValue
在資料被寫入到硬碟和消費者可用前最大累積的訊息的數量
log.flush.interval.ms
Long.MaxValue
在資料被寫入到硬碟前的最大時間
log.flush.scheduler.interval.ms
Long.MaxValue
檢查資料是否要寫入到硬碟的時間間隔。
log.retention.hours
168
控制一個log保留多長個小時
log.retention.bytes
-1
控制log檔案最大尺寸
log.cleaner.enable
false
是否log cleaning
log.cleanup.policy
delete
delete還是compat. 其它控制引數還包括log.cleaner.threads，log.cleaner.io.max.bytes.per.second，log.cleaner.dedupe.buffer.size，log.cleaner.io.buffer.size，log.cleaner.io.buffer.load.factor，log.cleaner.backoff.ms，log.cleaner.min.cleanable.ratio，log.cleaner.delete.retention.ms
log.dir
/tmp/kafka-logs
指定log檔案的根目錄
log.segment.bytes
110241024*1024
單一的log segment檔案大小
log.roll.hours
24 * 7
開始一個新的log檔案片段的最大時間
message.max.bytes
1000000 + MessageSet.LogOverhead
一個socket 請求的最大位元組數
num.network.threads
3
處理網路請求的執行緒數
num.io.threads
8
處理IO的執行緒數
background.threads
10
後臺執行緒序
num.partitions
1
預設分割槽數
socket.send.buffer.bytes
102400
socket SO_SNDBUFF引數
socket.receive.buffer.bytes
102400
socket SO_RCVBUFF引數
zookeeper.connect
localhost:2182/kafka
指定zookeeper連線字串， 格式如hostname:port/chroot。chroot是一個namespace
zookeeper.connection.timeout.ms
6000
指定客戶端連線zookeeper的最大超時時間
zookeeper.session.timeout.ms
6000
連線zk的session超時時間
zookeeper.sync.time.ms
2000
zk follower落後於zk leader的最長時間



High-levelConsumer配置引數
下表列出了high-level consumer的重要的配置引數。
更多的配置請參考 kafka.consumer.ConsumerConfig
  
name
  
預設值
描述
groupid
groupid
一個字串用來指示一組consumer所在的組
socket.timeout.ms
30000
socket超時時間
socket.buffersize
64*1024
socket receive  buffer
fetch.size
300 * 1024
控制在一個請求中獲取的訊息的位元組數。 這個引數在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代
backoff.increment.ms
1000
這個引數避免在沒有新資料的情況下重複頻繁的拉資料。 如果拉到空資料，則多推後這個時間
queued.max.message.chunks
2
high level  consumer內部快取拉回來的訊息到一個佇列中。 這個值控制這個佇列的大小
auto.commit.enable
true
如果true,consumer定期地往zookeeper寫入每個分割槽的offset
auto.commit.interval.ms
10000
往zookeeper上寫offset的頻率
auto.offset.reset
largest
如果offset出了返回，則 smallest: 自動設定reset到最小的offset. largest : 自動設定offset到最大的offset. 其它值不允許，會丟擲異常.
consumer.timeout.ms
-1
預設-1,consumer在沒有新訊息時無限期的block。如果設定一個正值， 一個超時異常會丟擲
rebalance.retries.max
4
rebalance時的最大嘗試次數


Producer配置引數
下表列出了producer的重要的引數。
更多的配置請參考 kafka.producer.ProducerConfig
  
name
  
預設值
描述
serializer.class
kafka.serializer.DefaultEncoder
必須實現kafka.serializer.Encoder介面，將T型別的物件encode成kafka message
key.serializer.class
serializer.class
key物件的serializer類
partitioner.class
kafka.producer.DefaultPartitioner
必須實現kafka.producer.Partitioner，根據Key提供一個分割槽策略
producer.type
sync
指定訊息傳送是同步還是非同步。非同步asyc成批傳送用kafka.producer.AyncProducer， 同步sync用kafka.producer.SyncProducer
metadata.broker.list
boker list
使用這個引數傳入boker和分割槽的靜態資訊，如host1:port1,host2:port2, 這個可以是全部boker的一部分
compression.codec
NoCompressionCodec
訊息壓縮，預設不壓縮
compressed.topics
null
在設定了壓縮的情況下，可以指定特定的topic壓縮，為指定則全部壓縮
message.send.max.retries
3
訊息傳送最大嘗試次數
retry.backoff.ms
300
每次嘗試增加的額外的間隔時間
topic.metadata.refresh.interval.ms
600000
定期的獲取後設資料的時間。當分割槽丟失，leader不可用時producer也會主動獲取後設資料，如果為0，則每次傳送完訊息就獲取後設資料，不推薦。如果為負值，則只有在失敗的情況下獲取後設資料。
queue.buffering.max.ms
5000
在producer queue的快取的資料最大時間，僅僅for asyc
queue.buffering.max.message
10000
producer 快取的訊息的最大數量，僅僅for asyc
queue.enqueue.timeout.ms
-1
0當queue滿時丟掉，負值是queue滿時block,正值是queue滿時block相應的時間，僅僅for asyc
batch.num.messages
200
一批訊息的數量，僅僅for asyc
request.required.acks
0
0表示producer毋須等待leader的確認，1代表需要leader確認寫入它的本地log並立即確認，-1代表所有的備份都完成後確認。 僅僅for sync
request.timeout.ms
10000
確認超時時間

kafka.serializer.DefaultEncoder
預設的這個Encoder事實上不做任何處理，接收到什麼byte[]就返回什麼byte[]:
  1. class DefaultEncoder(props: VerifiableProperties = null) extends Encoder[Array[Byte]] {
  2.   override def toBytes(value: Array[Byte]): Array[Byte] = value
  3. }
複製程式碼

NullEncoder則不管接收什麼都返回null:
  1. class NullEncoder[T](props: VerifiableProperties = null) extends Encoder[T] {
  2.   override def toBytes(value: T): Array[Byte] = null
  3. }
複製程式碼

StringEncoder則返回字串，預設UTF-8格式：
  1. class StringEncoder(props: VerifiableProperties = null) extends Encoder[String] {
  2.   val encoding =
  3.     if(props == null)
  4.       "UTF8"
  5.     else
  6.       props.getString("serializer.encoding", "UTF8")

  8.   override def toBytes(s: String): Array[Byte] =
  9.     if(s == null)
  10.       null
  11.     else
  12.       s.getBytes(encoding)
  13. }
複製程式碼

kafka.producer.DefaultPartitioner
預設的分割槽函式為DefaultPartitioner,它根據key的hashcode與分割槽數取餘，得到相應的分割槽。
  1. class DefaultPartitioner(props: VerifiableProperties = null) extends Partitioner {
  2.   private val random = new java.util.Random

  4.   def partition(key: Any, numPartitions: Int): Int = {
  5.     Utils.abs(key.hashCode) % numPartitions
  6.   }
  7. }
複製程式碼

但是如果key為null時會傳送到哪個分割槽？在一定時間內往一個特定的分割槽傳送，超過一定時間又會隨機選擇一個，請參考key為null時Kafka會將訊息傳送給哪個分割槽?.所以推薦你傳送Kafka訊息時總是指定一個key,以便訊息能均勻的分到每個分割槽上。

轉載：http://www.aboutyun.com/thread-12211-1-1.html

相關文章