filebeat將日誌傳送到kafka不同分割槽的方法
版本
filebeat 7.10.0
方法
現在filebeat.yml檔案中只會有一個outputs生效,因此不能配置多個outputs傳送到不同的地方,但是可以通過’%{}'引用引數的方法動態的設定傳送目標。
通過fields引數設定kafka的topic,如下配置檔案所示:
# ============================== Filebeat inputs ===============================
filebeat.inputs:
# Each - is an input. Most options can be set at the input level, so
# you can use different inputs for various configurations.
# Below are the input specific configurations.
# ======== 傳送到first topic========
- type: log
enabled: true
paths:
- e:\Lab\Logs\new.log
fields:
kafka_topic: first
# ======== 傳送到second topic========
- type: log
enabled: true
paths:
- e:\Lab\Logs\new1.log
fields:
kafka_topic: second
# ---------------------------- kafka Output----------------------------
output.kafka:
# initial brokers for reading cluster metadata hosts是string陣列型別,支援多個kafka例項地址(此處不是配置zookeeper地址)
hosts: ["139.XXXXX:9092"]
# 在這裡通過引用fields來指定目標topic
topic: '%{[fields.kafka_topic]}'
version: 0.11.0.0
compression: gzip
max_message_bytes: 1000000
codec.format:
string: '%{[message]}'
相關文章
- filebeat 收集nginx日誌輸出到kafkaNginxKafka
- ELK+FileBeat+Kafka搭建日誌管理平臺Kafka
- 將CSV的資料傳送到kafka(java版)KafkaJava
- Kafka 分割槽Kafka
- 增加表分割槽時,為local分割槽索引指定不同表空間的方法索引
- Filebeat 收集日誌的那些事兒
- Kafka - 自定義分割槽器Kafka
- 如何優雅的將Laravel日誌推到Kafka?LaravelKafka
- win10系統下將邏輯分割槽改為主分割槽的方法Win10
- asp.net core使用serilog將日誌推送到騰訊雲日誌服務ASP.NET
- ELK+kafka+Winlogbeat/FileBeat搭建統一日誌收集分析管理系統Kafka
- linux的分割槽方法Linux
- 詳細解析kafka之kafka分割槽和副本Kafka
- ELK+FileBeat日誌分析系統
- 日誌收集之filebeat使用介紹
- Kafka分割槽分配策略(Partition Assignment Strategy)Kafka
- Golang:將日誌以Json格式輸出到KafkaGolangJSONKafka
- 透過 Filebeat 收集 ubuntu 系統日誌Ubuntu
- ES & Filebeat 使用 Pipeline 處理日誌中的 @timestamp
- 日誌分析平臺ELK之日誌收集器filebeat
- PostgreSQL:傳統分割槽表SQL
- 調整分割槽後分割槽不見的資料找到方法
- 【kafka】-分割槽-消費端負載均衡Kafka負載
- SQL Server大分割槽表沒有空分割槽的情況下如何擴充套件分割槽的方法SQLServer套件
- kafka指定key進行分割槽遇到的問題Kafka
- 在Docker上搭建ELK+Filebeat日誌中心Docker
- 【Linux】分割槽向左擴容的方法Linux
- 【Algorithm】快排分割槽方法Go
- 如何為Kafka叢集確定合適的分割槽數以及分割槽數過多帶來的弊端Kafka
- go-kit 微服務 日誌分析管理 (ELK + Filebeat)Go微服務
- SSD固態硬碟要分割槽嗎?不同容量SSD固態硬碟分割槽方案建議硬碟
- 如何把 Laravel 的日誌推到Kafka?LaravelKafka
- nginx自帶的日誌日期分割Nginx
- 利用華為DTM將事件傳送到Firebase事件
- 如何用idea將專案傳送到gitIdeaGit
- 使用Kafka做日誌收集Kafka
- 按日期分割nginx日誌Nginx
- oracle將表配置為分割槽表Oracle