Jumpserver雙機高可用環境部署筆記

散盡浮華發表於2018-01-17
Server筆記

 

之前在IDC部署了Jumpserver堡壘機環境，作為登陸線上伺服器的統一入口。後面執行一段時間後，發現Jumpserver伺服器的CPU負載使用率高達80%以上，主要是python程式對CPU的消耗比較大，由於是單機部署，處於安全考慮，急需要部署一套Jumpserver雙機高可用環境，實現LB+HA的降低負載和故障轉移的目的。以下記錄了環境部署的過程：

如下進行調整後，之前的jumpserver使用者名稱、祕鑰、密碼等資訊都不會變，只需要將ssh連線的地址改為ssh埠負載均衡的vip地址即可！
也就是說對於使用者來說，只需要修改登入ip地址，其他的都不受影響！
   
1）環境準備
192.168.10.20   之前的單機版jumpserver，作為master主機
192.168.10.21   新加的jumpserver，作為slave從機      
   
jumpserver機器的ssh埠統一調整為8888
web訪問的80埠負載是7層負載，通過Nginx+keepalived實現，域名為jump.kevin-inc.com
ssh埠的負載是4層負載，也可以通過nginx的stream實現，（我線上上用的nginx+keepalived負載層並沒有安裝stream模組，為了不影響線上業務，另配置了lvs+keepalived）
   
2）部署jumpserver備機（192.168.10.21）的jumpserver環境
參考：http://www.cnblogs.com/kevingrace/p/5570279.html
   
3）配置jumpserver主機和備機的mysql主主同步環境（先將master主機的jumpserver庫資料同步到slave主機的mysql裡面）
參考這篇文章中的mysql主主同步配置：http://www.cnblogs.com/kevingrace/p/6710136.html
   
4）同步檔案，使用rsync+inotify實時同步，或使用rsync+crontab短時間定時同步（需要提前做192.168.10.20和192.168.10.21兩臺機器的ssh無密碼登陸的信任關係）
   同步系統檔案/etc/passwd、/etc/shaow、/etc/group檔案
   同步jumpserver相關使用者以及key檔案：jumpserver/keys
   同步使用者家目錄的home目錄

注意：為了防止檔案被強行覆蓋掉，這裡只能做單方向的檔案同步，不能做雙向同步，否則會出現：在其中一臺機器的jumpserver介面裡建立好使用者後，但是在jumpserver伺服器上的
/etc/passwd檔案裡卻沒有該使用者資訊，因為被對方機器的同步強行覆蓋掉了。

正確的做法：
在192.168.10.20機器上做rsync+crontab同步（10秒同步一次），另一臺機器192.168.10.21不做同步；
登陸http://192.168.10.20的jumpserver介面建立使用者，這樣使用者資訊很快就會被同步到另一臺機器上了（注意：建立使用者要在http://192.168.10.20的jumpserver介面裡建立）

[root@jumpserver01 ~]# crontab -l
.........

* * * * * /usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/passwd root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 10;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/passwd root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 20;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/passwd root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 30;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/passwd root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 40;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/passwd root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 50;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/passwd root@192.168.10.21:/etc/ > /dev/null 2>&1

* * * * * /usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/shadow root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 10;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/shadow root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 20;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/shadow root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 30;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/shadow root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 40;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/shadow root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 50;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/shadow root@192.168.10.21:/etc/ > /dev/null 2>&1

* * * * * /usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/group root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 10;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/group root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 20;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/group root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 30;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/group root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 40;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/group root@192.168.10.21:/etc/ > /dev/null 2>&1
* * * * * sleep 50;/usr/bin/rsync -e "ssh -p8888" -avpgolr /etc/group root@192.168.10.21:/etc/ > /dev/null 2>&1

* * * * * /usr/bin/rsync -e "ssh -p8888" -avpgolr /data/jumpserver/keys/ 192.168.10.21:/data/jumpserver/keys/ > /dev/null 2>&1
* * * * * sleep 10;/usr/bin/rsync -e "ssh -p8888" -avpgolr /data/jumpserver/keys/ 192.168.10.21:/data/jumpserver/keys/ > /dev/null 2>&1
* * * * * sleep 20;/usr/bin/rsync -e "ssh -p8888" -avpgolr /data/jumpserver/keys/ 192.168.10.21:/data/jumpserver/keys/ > /dev/null 2>&1
* * * * * sleep 30;/usr/bin/rsync -e "ssh -p8888" -avpgolr /data/jumpserver/keys/ 192.168.10.21:/data/jumpserver/keys/ > /dev/null 2>&1
* * * * * sleep 40;/usr/bin/rsync -e "ssh -p8888" -avpgolr /data/jumpserver/keys/ 192.168.10.21:/data/jumpserver/keys/ > /dev/null 2>&1
* * * * * sleep 50;/usr/bin/rsync -e "ssh -p8888" -avpgolr /data/jumpserver/keys/ 192.168.10.21:/data/jumpserver/keys/ > /dev/null 2>&1

* * * * * /usr/bin/rsync -e "ssh -p8888" -avpgolr /home/ 192.168.10.21:/home/ > /dev/null 2>&1
* * * * * sleep 10;/usr/bin/rsync -e "ssh -p8888" -avpgolr /home/ 192.168.10.21:/home/ > /dev/null 2>&1
* * * * * sleep 20;/usr/bin/rsync -e "ssh -p8888" -avpgolr /home/ 192.168.10.21:/home/ > /dev/null 2>&1
* * * * * sleep 30;/usr/bin/rsync -e "ssh -p8888" -avpgolr /home/ 192.168.10.21:/home/ > /dev/null 2>&1
* * * * * sleep 40;/usr/bin/rsync -e "ssh -p8888" -avpgolr /home/ 192.168.10.21:/home/ > /dev/null 2>&1
* * * * * sleep 50;/usr/bin/rsync -e "ssh -p8888" -avpgolr /home/ 192.168.10.21:/home/ > /dev/null 2>&1

然後重啟兩臺機器的jumpserver服務。

5）web訪問的80埠負載均衡配置。訪問地址是http://jump.kevin-inc.com
參考：http://www.cnblogs.com/kevingrace/p/6138185.html
   
[root@inner-lb01 ~]# cat /data/nginx/conf/vhosts/jump.kevin-inc.com.conf
upstream jump-inc {
      server 192.168.10.20:80 max_fails=3 fail_timeout=10s;
      server 192.168.10.21:80 max_fails=3 fail_timeout=10s;
}
             
  server {
      listen      80;
      server_name jump.kevin-inc.com;
       
      access_log  /data/nginx/logs/jump.kevin-inc.com-access.log main;
      error_log  /data/nginx/logs/jump.kevin-inc.com-error.log;
       
 location / {
         proxy_pass http://jump-inc;
         proxy_redirect off ;
         proxy_set_header Host $host;
         proxy_set_header X-Real-IP $remote_addr;
         proxy_set_header REMOTE-HOST $remote_addr;
         proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
         proxy_connect_timeout 300;
         proxy_send_timeout 300;
         proxy_read_timeout 600;
         proxy_buffer_size 256k;
         proxy_buffers 4 256k;
         proxy_busy_buffers_size 256k;
         proxy_temp_file_write_size 256k;
         proxy_next_upstream error timeout invalid_header http_502 http_503 http_504;
         proxy_max_temp_file_size 128m;
         #proxy_cache mycache;
         #proxy_cache_valid 200 302 1h;
         #proxy_cache_valid 301 1d;
         #proxy_cache_valid any 1m;
        }
}
   
   
6）ssh登陸的8888埠的負載均衡配置
lvs+keepalived的配置參考：http://www.cnblogs.com/kevingrace/p/5570500.html
   
兩臺lvs配置如下（vip為10.0.8.24）
[root@jump-lvs01 ~]# cat /etc/keepalived/keepalived.conf
! Configuration File for keepalived
      
global_defs {
   router_id LVS_Master
}
      
vrrp_instance VI_1 {
    state MASTER            
    interface eth0         
    virtual_router_id 51    
    priority 100           
    advert_int 1            
    authentication {
        auth_type PASS      
        auth_pass 1111      
    }
    virtual_ipaddress {
        192.168.10.24     
    }
}
      
virtual_server 192.168.10.24 8888 {
    delay_loop 6            
    lb_algo wrr             
    lb_kind DR              
    #nat_mask 255.255.255.0
    persistence_timeout 600  
    protocol TCP           
      
    real_server 192.168.10.20 8888 {
        weight 3
        TCP_CHECK {
            connect_timeout 3
            nb_get_retry 3
            delay_before_retry 3
            connect_port 8888
        }
    }
    real_server 192.168.10.21 8888 {
        weight 3
        TCP_CHECK {
            connect_timeout 3
            nb_get_retry 3
            delay_before_retry 3
            connect_port 8888
        }
    }
}
   
   
   
[root@jump-lvs02 ~]# cat /etc/keepalived/keepalived.conf
! Configuration File for keepalived
      
global_defs {
   router_id LVS_Backup
}
      
vrrp_instance VI_1 {
    state BACKUP            
    interface eth0         
    virtual_router_id 51    
    priority 90           
    advert_int 1            
    authentication {
        auth_type PASS      
        auth_pass 1111      
    }
    virtual_ipaddress {
        192.168.10.24     
    }
}
      
virtual_server 192.168.10.24 8888 {
    delay_loop 6            
    lb_algo wrr             
    lb_kind DR              
    #nat_mask 255.255.255.0
    persistence_timeout 600  
    protocol TCP           
      
    real_server 192.168.10.20 8888 {
        weight 3
        TCP_CHECK {
            connect_timeout 3
            nb_get_retry 3
            delay_before_retry 3
            connect_port 8888
        }
    }
   
    real_server 192.168.10.21 8888 {
        weight 3
        TCP_CHECK {
            connect_timeout 3
            nb_get_retry 3
            delay_before_retry 3
            connect_port 8888
        }
    }
}

在xshell客戶端登陸堡壘機，堡壘機的地址可以是192.168.10.20、192.168.10.21、192.168.10.24,三個地址都可以。

相關文章