filebeat將日誌傳送到kafka不同分割槽的方法
版本
filebeat 7.10.0
方法
現在filebeat.yml檔案中只會有一個outputs生效,因此不能配置多個outputs傳送到不同的地方,但是可以通過’%{}'引用引數的方法動態的設定傳送目標。
通過fields引數設定kafka的topic,如下配置檔案所示:
# ============================== Filebeat inputs ===============================
filebeat.inputs:
# Each - is an input. Most options can be set at the input level, so
# you can use different inputs for various configurations.
# Below are the input specific configurations.
# ======== 傳送到first topic========
- type: log
enabled: true
paths:
- e:\Lab\Logs\new.log
fields:
kafka_topic: first
# ======== 傳送到second topic========
- type: log
enabled: true
paths:
- e:\Lab\Logs\new1.log
fields:
kafka_topic: second
# ---------------------------- kafka Output----------------------------
output.kafka:
# initial brokers for reading cluster metadata hosts是string陣列型別,支援多個kafka例項地址(此處不是配置zookeeper地址)
hosts: ["139.XXXXX:9092"]
# 在這裡通過引用fields來指定目標topic
topic: '%{[fields.kafka_topic]}'
version: 0.11.0.0
compression: gzip
max_message_bytes: 1000000
codec.format:
string: '%{[message]}'
相關文章
- CentOS6.9安裝Filebeat監控Nginx的訪問日誌傳送到KafkaCentOSNginxKafka
- filebeat 收集nginx日誌輸出到kafkaNginxKafka
- ELK+FileBeat+Kafka搭建日誌管理平臺Kafka
- 將CSV的資料傳送到kafka(java版)KafkaJava
- Kafka 分割槽Kafka
- 配置日誌logwarch 每天傳送到郵箱
- ORACLE將不同表改為分割槽表Oracle
- Filebeat 收集日誌的那些事兒
- 如何優雅的將Laravel日誌推到Kafka?LaravelKafka
- docker 容器日誌集中 ELK + filebeatDocker
- Kafka - 自定義分割槽器Kafka
- rebuild分割槽表分割槽索引的方法Rebuild索引
- 多種分割WebServer日誌的方法(轉)WebServer
- asp.net core使用serilog將日誌推送到騰訊雲日誌服務ASP.NET
- 日誌收集之filebeat使用介紹
- ELK+FileBeat日誌分析系統
- 日誌收集器Filebeat詳解
- win10系統下將邏輯分割槽改為主分割槽的方法Win10
- Kafka 分割槽備份實戰Kafka
- 詳細解析kafka之kafka分割槽和副本Kafka
- ELK+kafka+Winlogbeat/FileBeat搭建統一日誌收集分析管理系統Kafka
- oracle10g_10.2.0.5_構建生產某表為分割槽及分割槽索引的日誌Oracle索引
- 透過 Filebeat 收集 ubuntu 系統日誌Ubuntu
- 將非分割槽錶轉換為分割槽表
- 日誌分析平臺ELK之日誌收集器filebeat
- Golang:將日誌以Json格式輸出到KafkaGolangJSONKafka
- shell分割日誌
- linux的分割槽方法Linux
- 將mysql非分割槽錶轉換為分割槽表MySql
- 在Docker上搭建ELK+Filebeat日誌中心Docker
- 利用華為DTM將事件傳送到Firebase事件
- ORACLE將普通錶轉變為分割槽表方法Oracle
- Kafka分割槽分配策略(Partition Assignment Strategy)Kafka
- 【kafka】-分割槽-消費端負載均衡Kafka負載
- PostgreSQL:傳統分割槽表SQL
- kafka指定key進行分割槽遇到的問題Kafka
- 分割槽表的不同操作對索引的影響索引
- 將一個非分割槽錶轉換為分割槽表