Docker部署ElasticSearch叢集

LemonSquash 發表於 2021-01-18

1.前言

為什麼要用ElasticSearch?我們的應用經常需要新增檢索功能,開源的Elastic Search是目前全文檢索引擎的首選。它可以快速的儲存、搜尋和分析海量資料。ElasticSearch是一個分散式搜尋框架,提供RestfulAPI,底層基於Lucene,採用多shard(分片)的方式保證資料安全,並且提供自動resharding的功能。
Elasticsearch: 權威指南(中文):https://www.elastic.co/guide/cn/elasticsearch/guide/current/index.html

2.拉取ElasticSearch映象

在centos視窗中,執行如下命令:

docker pull elasticsearch:5.6.8

當前ES映象版本資訊:

 {
  "name" : "WlwFyqU",
  "cluster_name" : "elasticsearch",
  "cluster_uuid" : "78UDZtviQqiWmzmenGpSrQ",
  "version" : {
    "number" : "5.6.8",
    "build_hash" : "cfe3d9f",
    "build_date" : "2018-09-10T20:12:43.732Z",
    "build_snapshot" : false,
    "lucene_version" : "6.6.1"
  },
  "tagline" : "You Know, for Search"
 }

3.建立資料掛在目錄,以及配置ElasticSearch叢集配置檔案

3.1.建立資料檔案掛載目錄,並開放通訊埠

在centos視窗中,執行如下操作:

[[email protected] soft]# pwd
/root/soft
[[email protected] soft]# mkdir -p ES/config
[[email protected] soft]# cd  ES 
[[email protected] ES]# mkdir data1
[[email protected] ES]# mkdir data2
[[email protected] ES]# mkdir data3
[[email protected] ES]# cd ES/config/
[[email protected] ES]# firewall-cmd --add-port=9300/tcp
success
[[email protected] ES]# firewall-cmd --add-port=9301/tcp
success
[[email protected] ES]# firewall-cmd --add-port=9302/tcp
success

注:如果ELK選的6.X版本的,且非管理員,那麼讀者需將data1 data2 data3 開啟777許可權=> chmod 777 data1 data2 data3

3.2.建立ElasticSearch配置檔案

在centos視窗中,使用vim命令分別建立如下檔案:es1.yml,es2.yml,es3.yml

es1.yml

cluster.name: my-elasticsearch
node.name: es-node1
network.bind_host: 0.0.0.0
network.publish_host: 192.168.70.129
http.port: 9200
transport.tcp.port: 9300
http.cors.enabled: true
http.cors.allow-origin: "*"
node.master: true 
node.data: true  
discovery.zen.ping.unicast.hosts: ["192.168.70.129:9300","192.168.70.129:9301","192.168.70.129:9302"]
discovery.zen.minimum_master_nodes: 2

es2.yml

cluster.name: my-elasticsearch
node.name: es-node2
network.bind_host: 0.0.0.0
network.publish_host: 192.168.70.129
http.port: 9201
transport.tcp.port: 9301
http.cors.enabled: true
http.cors.allow-origin: "*"
node.master: true 
node.data: true  
discovery.zen.ping.unicast.hosts: ["192.168.70.129:9300","192.168.70.129:9301","192.168.70.129:9302"]
discovery.zen.minimum_master_nodes: 2

es3.yml

cluster.name: my-elasticsearch
node.name: es-node3
network.bind_host: 0.0.0.0
network.publish_host: 192.168.70.129
http.port: 9202
transport.tcp.port: 9302
http.cors.enabled: true
http.cors.allow-origin: "*"
node.master: true 
node.data: true  
discovery.zen.ping.unicast.hosts: ["192.168.70.129:9300","192.168.70.129:9301","192.168.70.129:9302"]
discovery.zen.minimum_master_nodes: 2

注:本機虛擬機器ip:192.168.70.129 讀者請自行更改

3.3.調高JVM執行緒數限制數量

在centos視窗中,修改配置sysctl.conf

vim /etc/sysctl.conf

加入如下內容:

vm.max_map_count=262144 

啟用配置:

sysctl -p

注:這一步是為了防止啟動容器時,報出如下錯誤:
bootstrap checks failed max virtual memory areas vm.max_map_count [65530] likely too low, increase to at least [262144]

4.啟動ElasticSearch叢集容器

啟動ElasticSearch叢集容器
在centos視窗中,執行如下命令:

docker run -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9200:9200 -p 9300:9300 -v /root/soft/ES/config/es1.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /root/soft/ES/data1:/usr/share/elasticsearch/data --name ES01 elasticsearch:5.6.8
 
docker run -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9201:9201 -p 9301:9301 -v /root/soft/ES/config/es2.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /root/soft/ES/data2:/usr/share/elasticsearch/data --name ES02 elasticsearch:5.6.8

docker run -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9202:9202 -p 9302:9302 -v /root/soft/ES/config/es3.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /root/soft/ES/data3:/usr/share/elasticsearch/data --name ES03 elasticsearch:5.6.8

注:設定-e ES_JAVA_OPTS="-Xms256m -Xmx256m" 是因為/etc/elasticsearch/jvm.options 預設jvm最大最小記憶體是2G,讀者啟動容器後 可用docker stats命令檢視

5.驗證是否搭建成功

在瀏覽器位址列訪問http://192.168.70.129:9200/_cat/nodes?pretty 檢視節點狀態
在這裡插入圖片描述

注:節點名稱帶表示為主節點*

6.ElasticSearch配置檔案說明

cluster.name: my-elasticsearch
node.name: es-node1
network.bind_host: 0.0.0.0
network.publish_host: 192.168.70.129
http.port: 9200
transport.tcp.port: 9300
http.cors.enabled: true
http.cors.allow-origin: "*"
node.master: true 
node.data: true  
discovery.zen.ping.unicast.hosts: ["192.168.70.129:9300","192.168.70.129:9301","192.168.70.129:9302"]
discovery.zen.minimum_master_nodes: 2

引數說明:

cluster.name:用於唯一標識一個叢集,不同的叢集,其 cluster.name 不同,叢集名字相同的所有節點自動組成一個叢集。如果不配置改屬性,預設值是:elasticsearch。
node.name:節點名,預設隨機指定一個name列表中名字。叢集中node名字不能重複
index.number_of_shards: 預設的配置是把索引分為5個分片
index.number_of_replicas:設定每個index的預設的冗餘備份的分片數,預設是1
network.bind_host: 設定可以訪問的ip,可以是ipv4或ipv6的,預設為0.0.0.0,這裡全部設定通過
network.publish_host:設定其它結點和該結點互動的ip地址,如果不設定它會自動判斷,值必須是個真實的ip地址
http.port:設定對外服務的http埠,預設為9200
transport.tcp.port: 設定節點之間互動的tcp埠,預設是9300
http.cors.enabled: 是否允許跨域REST請求
http.cors.allow-origin: 允許 REST 請求來自何處
node.master: true 配置該結點有資格被選舉為主結點(候選主結點),用於處理請求和管理叢集。如果結點沒有資格成為主結點,那麼該結點永遠不可能成為主結點;如果結點有資格成為主結點,只有在被其他候選主結點認可和被選舉為主結點之後,才真正成為主結點。
node.data: true 配置該結點是資料結點,用於儲存資料,執行資料相關的操作(CRUD,Aggregation);
discovery.zen.minimum_master_nodes: //自動發現master節點的最小數,如果這個叢集中配置進來的master節點少於這個數目,es的日誌會一直報master節點數目不足。(預設為1)為了避免腦裂,個數請遵從該公式 => (totalnumber of master-eligible nodes / 2 + 1)。 * 腦裂是指在主備切換時,由於切換不徹底或其他原因,導致客戶端和Slave誤以為出現兩個active master,最終使得整個叢集處於混亂狀態*
discovery.zen.ping.unicast.hosts: 叢集個節點IP地址,也可以使用es-node等名稱,需要各節點能夠解析

附錄:

1.檢視容器記憶體

docker stats $(docker ps --format={{.Names}})

2.檢視容器日誌

docker logs 容器名/容器ID

相關文章