從零開始搭建ELK+GPE監控預警系統

天府雲創發表於2017-11-21
原文網址 : https://blog.csdn.net/enweitech/article/details/78595241

本文可能不會詳細記錄每一步實現的過程，但一定程度上可以引領小夥伴走向更開闊的視野，串聯每個環節，呈現予你不一樣的效果。

一、業務規模

  • 8個平臺

  • 100+臺伺服器

  • 10+個叢集分組

  • 微服務600+

  • 使用者N+

二、面臨問題

隨著分散式微服務容器技術的發展，傳統監控系統面臨許多問題：

  • 容器如何監控

  • 微服務如何監控

  • 叢集效能如何進行分析計算

  • 如何管理agent端大量配置指令碼

這些都是傳統監控所要面臨的棘手問題，如何解決當前遇到的問題，GPE橫空出世。

三、系統監控

  • 目標群體：系統日誌、伺服器、容器、系統軟體執行指標

  • 日誌架構：ELK (Elasticsearch+Logstash+Kibana+Redis)

  • 監控架構：GPE (Grafana+Prometheus+Exporter+Consul)

  • 報警方式：郵件、簡訊、釘釘以及自定義webhook，監控中心7×24小時

四、ELK日誌

隨著分散式微服務的盛行，功能模組的拆分細化，無論對於開發還是運維，日誌的重要性都是不言而喻的，但如何儲存分析定位檢視日誌，一百個公司可能會有兩百種做法。有的很少記錄日誌，有的日誌等級都不分，有的寫入文字後就不管不問了，有的向MySQL資料庫一扔也沒有了下文，等到使用者投訴或者被發現問題，才會翻一翻。

那如何正確優雅地記錄日誌呢？相信大家對於ELK並不陌生，可能不少小夥伴都接觸過，對於中小型網際網路創業公司來說，使用ELK搭建日誌分析系統的確是一個不錯的選擇。

五、架構圖

image.png

六、核心元件

ELK由Elasticsearch、Logstash和Kibana三劍客組成，當然了以上是最基本的元件，為了使架構流程更加豐滿，我們加入了Redis做緩衝佇列，配置了sendmail做異常日誌告警。

ElasticSearch

ElasticSearch是一個基於Lucene的搜尋伺服器。它提供了一個分散式多使用者能力的全文搜尋引擎，基於RESTful web介面。它的特點有：分散式、零配置、自動發現、索引自動分片、索引副本機制、restful風格介面等。

Logstash

Logstash資料分析工具，它可以對系統生成的的日誌進行採集、分析，儲存。2013 年，Logstash 被 Elasticsearch 公司收購，ELK Stack 正式成為官方用語。

Kibana

Kibana是一個開源的分析與視覺化平臺，用來搜尋、檢視儲存在Elasticsearch索引中的資料。

工作流程

  • logstash(shipper) 實時監控並過濾收集每個服務的日誌資訊

  • logstash(shipper) 把收集來的日誌(INFO 、DEBUG 、RROR 、WARN等)分別傳送到Redis

  • logstash(indexer) 按照日誌分類分別從Redis讀取日誌資訊併傳送給ElasticSearch

  • logstash(indexer) 過濾出RROR日誌通過郵件或者其它webhook方式告警開發運維人員

  • Kibana讀取ElasticSearch資料結合自定義搜尋進行頁面展示

七、GPE監控

ELK主要收集分析預警的是我們平臺系統中各個服務的業務日誌，一般通過日誌元件(log4j 、log4j2 、logback)來收集並寫入文字。但對於系統本身以及一些應用軟體的監控預警，這套方案顯然是不合適的，這裡推薦一下GPE三劍客，當然了GPE是我自己意淫出來的組合。

架構圖

image.png

 

核心元件

Grafana、Prometheus、Exporter(一系列外掛)，自定義的三劍客，當然，為了使得整合監控程式更加流暢完整，我們加入了註冊中心Consul做服務發現，實現動態新增服務，使用郵件、釘釘以及webhook實現異常告警。

GPE元件只是其中的一種實現方式罷了，Grafana配合InfluxData提供Telegraf也可以收集很多Metrics，實現更為豐富的大屏監控預警。

Grafana

Grafana 是一個開箱即用的視覺化工具，具有功能齊全的度量儀表盤和圖形編輯器，有靈活豐富的圖形化選項，可以混合多種風格，支援多個資料來源特點。

image.png

Prometheus

Prometheus是一個開源的服務監控系統，它通過HTTP協議從遠端的機器收集資料並儲存在本地的時序資料庫上。

  • 多維資料模型（時序列資料由metric名和一組key/value組成）

  • 在多維度上靈活的查詢語言(PromQl)

  • 不依賴分散式儲存，單主節點工作

  • 通過基於HTTP的pull方式採集時序資料

  • 可以通過push gateway進行時序列資料推送(pushing)

  • 可以通過服務發現或者靜態配置去獲取要採集的目標伺服器

  • 多種視覺化圖表及儀表盤支援

如架構圖所示，Prometheus通過安裝在遠端機器上的exporter來收集監控資料。

image.png

Consul

Consul有多個元件，但是整體來看，它是你基礎設施中用於發現和配置服務的一個工具。它提供如下幾個關鍵功能：

  • 服務發現： Consul的某些客戶端可以提供一個服務，例如api或者mysql，其它客戶端可以使用Consul去發現這個服務的提供者。使用DNS或者HTTP，應用可以很容易的找到他們所依賴的服務。

  • 健康檢查： Consul客戶端可以提供一些健康檢查，這些健康檢查可以關聯到一個指定的服務（服務是否返回200 OK），也可以關聯到本地節點（記憶體使用率是否在90%以下）。這些資訊可以被一個操作員用來監控叢集的健康狀態，被服務發現元件路由時用來遠離不健康的主機。

  • 鍵值儲存： 應用可以使用Consul提供的分層鍵值儲存用於一些目的，包括動態配置、特徵標記、協作、leader選舉等等。通過一個簡單的HTTP API可以很容易的使用這個元件。

  • 多資料中心： Consul對多資料中心有非常好的支援，這意味著Consul使用者不必擔心由於建立更多抽象層而產生的多個區域。

Consul被設計為對DevOps群體和應用開發者友好，非常適合現代的、可伸縮的基礎設施。

image.png

工作流

  • Exporter元件註冊到Consul註冊中心

  • Prometheus拉取Consul註冊中心的servers

  • Exporter元件獲取伺服器或者系統軟體的metrics

  • Grafana配置Prometheus資料來源獲取其採集資料結合自定義皮膚實現監控大屏

  • Grafana通過設定Alerting實現監控預警

如文章開頭所述，本文並沒有一步步詳細記錄安裝使用教程，這些教程網上都有，即使有坑，相信作為程式設計師的你也能夠解決。不才，在這裡只是拋磚引玉，希望各位小夥伴可以學到更多知識。

還記得許多年前的春天，那時網站還都是靜態頁面，沒有圖片也沒有絢麗的效果，沒有24小時服務的客服，可當初程式設計師是那麼快樂，雖然只有網頁三劍客，在網上、在指尖、在BBS中，揮灑著自己的青春熱血，如果有一天我老無所依，請把我留在在那網際網路浪潮裡。

現如今，隨著雲端計算、分散式、微服務的盛行，程式設計師的你是否已經疲倦與自己的CURD，是否已經不屑於與產品汪扯皮，來來來，返回頂部小夥伴們再看看一遍，誰說程式設計師全部的時間都要敲程式碼，是時候需要去需找自己的另一片天空了。

相關文章