今天閒來無事,打算搭建一個MySQL的高可用架構,採用的是MySQL的主主結構,再外加Keepalived,對外統一提供虛IP。先來說說背景吧,現在的專案為了高可用性,都是避免單節點的存在的,比如,我們的應用程式,都是部署多個節點,通過Nginx做負載均衡,某個節點出現問題,並不會影響整體應用。那麼資料庫層如何搭建高可用的架構呢?今天我們就來看看。
整體架構
MySQL採用主主結構,我們使用兩臺機器就夠了,然後再這兩臺機器上再安裝Keepalived,使用vrrp技術,虛擬出一個IP。兩臺機器如下:
- 192.168.73.141:MySQL(主1)、Keepalived(MASTER)
- 192.168.73.142:MySQL(主2)、Keepalived(BACKUP)
- 192.168.73.150:虛IP
整體架構圖如下:
MySQL主主搭建
我們分別在兩臺機器上安裝MySQL,使用yum方式安裝,首先從MySQL官網下載rpm包,選擇對應的系統,在這裡,我們選擇CentOS7的prm包,mysql80-community-release-el7-3.noarch.rpm
。然後將rpm檔案分別上傳到兩臺機器上,接下來我們就是用yum來安裝MySQL。
在192.168.73.141(主1)執行如下命令,
# 使用yum安裝rpm包
yum install mysql80-community-release-el7-3.noarch.rpm
# 安裝MySQL社群版 時間較長 耐心等待
yum install mysql-community-server
#啟動MySQL服務
service mysqld start
到這裡,MySQL就安裝完成,並且正常啟動了。然後,我們用root賬號登入MySQL,並建立一個可用的賬號。
# 從MySQL的日誌中 找到root賬號的臨時密碼
grep 'temporary password' /var/log/mysqld.log
# 使用root賬號登入 輸入臨時密碼 登入成功
mysql -uroot -p
# 修改root賬號的密碼 使用MYSQL_NATIVE_PASSWORD的加密方式 這種方式大多數客戶端都可以連線
ALTER USER 'root'@'localhost' IDENTIFIED WITH MYSQL_NATIVE_PASSWORD BY 'MyNewPass4!';
# 建立MySQL賬號
CREATE USER 'USER'@'%' IDENTIFIED WITH MYSQL_NATIVE_PASSWORD BY 'USER_PWD';
# 對USER賬號授權
GRANT ALL ON *.* TO 'USER'@'%';
# 重新整理許可權
FLUSH PRIVILEGES;
好了,到這裡,在192.168.73.141上安裝MySQL成功,並且建立了USER賬戶,我們可以使用NAVICAT等客戶端連線。
在192.168.73.142(主2)上也執行上面的命令,這樣我們在兩臺機器上都安裝了MySQL。接下來,我們就要配置MySQL的主主結構了。
首先,我們修改192.168.73.141(主1)上的my.cnf檔案。
vim /etc/my.cnf
datadir=/var/lib/mysql
socket=/var/lib/mysql/mysql.sock
log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid
# 配置server-id 每個MySQL例項的server-id都不能相同
server-id=1
# MySQL的日誌檔案的名字
log-bin=mysql_master
# 作為從庫時 更新操作是否寫入日誌 on:寫入 其他資料庫以此資料庫做主庫時才能進行同步
log-slave-updates=on
# MySQL系統庫的資料不需要同步 我們這裡寫了3個 更加保險
# 同步資料時忽略一下資料庫 但是必須在使用use db的情況下才會忽略;如果沒有使用use db 比如create user 資料還是會同步的
replicate-ignore-db=information_schema
replicate-ignore-db=mysql
replicate-ignore-db=performance_schema
replicate-ignore-db=sys
# 使用萬用字元忽略MySQL系統庫的表 這樣在create user時也不會進行同步了
replicate_wild_ignore_table=information_schema.%
replicate_wild_ignore_table=mysql.%
replicate_wild_ignore_table=performance_schema.%
replicate_wild_ignore_table=sys.%
# MySQL系統庫的日誌不計入binlog 這樣更加保險了
binlog-ignore-db=information_schema
binlog-ignore-db=mysql
binlog-ignore-db=performance_schema
binlog-ignore-db=sys
在192.168.73.142(主2)上也修改my.cnf檔案,我們直接複製過去,只需要修改其中的兩個地方,如下:
# 配置server-id=2
server-id=2
# MySQL的日誌檔案的名字 不改名字也可以 這裡主要為了區分
log-bin=mysql_slave
配置檔案都已經修改好了,我們分別在192.168.73.141(主1)和192.168.73.142(主2)上重啟MySQL服務,
service mysqld restart
下面我們就要配置主從了,其實主主模式就是配置兩個主從,先配置192.168.73.141(主1)->192.168.73.142(主2)的主從,然後再反過來配置192.168.73.142(主2)->192.168.73.141(主1)的主從,這樣主主的模式就配置好了。
我們先來配置192.168.73.141(主1)->192.168.73.142(主2)的主從
先登入192.168.73.141(主1)的資料庫,並執行如下命令:
# 建立備份的賬號 使用MYSQL_NATIVE_PASSWORD的方式加密
mysql> CREATE USER 'repl_master'@'%' IDENTIFIED WITH MYSQL_NATIVE_PASSWORD BY 'password';
# 對repl_master授予備份的許可權
mysql> GRANT REPLICATION SLAVE ON *.* TO 'repl_master'@'%';
# 重新整理許可權
mysql> FLUSH PRIVILEGES;
# 檢視MySQL主節點的狀態
mysql> SHOW MASTER STATUS;
+-------------------+---------+--------------+---------------------------------------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+---------+--------------+---------------------------------------------+------------------+
| mysql_master.000001 | 516 | | information_schema,mysql,performance_schema,sys | |
+-------------------+---------+--------------+---------------------------------------------+------------------+
1 row in set
我們要記住binlog檔案的名字,也就是mysql_master.000001,和位置,也就是516。
然後,我們再登入到192.168.73.142(主2)的資料庫,執行如下命令:
mysql> CHANGE MASTER TO
# MySQL主的IP
-> MASTER_HOST='192.168.73.141',
# MySQL主的埠
-> MASTER_PORT=3306
# MySQL主的備份賬號
-> MASTER_USER='repl_master',
# MySQL主的備份賬號密碼
-> MASTER_PASSWORD='password',
# 日誌檔案 通過show master status得到的
-> MASTER_LOG_FILE='mysql_master.000001',
# 日誌檔案位置 通過show master status得到的
-> MASTER_LOG_POS=516;
# 開啟從庫
mysql> START SLAVE;
# 檢視從庫的狀態
mysql> SHOW SLAVE STATUS;
這樣,192.168.73.141(主1)->192.168.73.142(主2)的主從就搭建好了。然後,我們再反過來,搭建192.168.73.142(主2)->192.168.73.141(主1)的主從。
先登入192.168.73.142(主2)的資料庫,執行如下命令:
# 建立備份的賬號 使用MYSQL_NATIVE_PASSWORD的方式加密
mysql> CREATE USER 'repl_slave'@'%' IDENTIFIED WITH MYSQL_NATIVE_PASSWORD BY 'password';
# 對repl_slave授予備份的許可權
mysql> GRANT REPLICATION SLAVE ON *.* TO 'repl_slave'@'%';
# 重新整理許可權
mysql> FLUSH PRIVILEGES;
# 檢視MySQL主節點的狀態
mysql> SHOW MASTER STATUS;
+-------------------+---------+--------------+---------------------------------------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+---------+--------------+---------------------------------------------+------------------+
| mysql_slave.000001 | 379 | | information_schema,mysql,performance_schema,sys | |
+-------------------+---------+--------------+---------------------------------------------+------------------+
1 row in set
再登入到192.168.73.141(主1)的資料庫,執行如下命令:
mysql> CHANGE MASTER TO
# MySQL主的IP
-> MASTER_HOST='192.168.73.142',
# MySQL主的埠
-> MASTER_PORT=3306
# MySQL主的備份賬號
-> MASTER_USER='repl_slave',
# MySQL主的備份賬號密碼
-> MASTER_PASSWORD='password',
# 日誌檔案 通過show master status得到的
-> MASTER_LOG_FILE='mysql_slave.000001',
# 日誌檔案位置 通過show master status得到的
-> MASTER_LOG_POS=379;
# 開啟從庫
mysql> START SLAVE;
# 檢視從庫的狀態
mysql> SHOW SLAVE STATUS;
這樣,192.168.73.142(主2)->192.168.73.141(主1)的主從也搭建好了。我們可以使用navicat分別連線192.168.73.141(主1)和192.168.73.142(主2),並執行建表、插入語句,驗證一下主主同步是否成功,這裡就不給大家演示了。
Keepalived高可用
MySQL主主結構已經搭建好了,無論從哪個MySQL插入資料,都會同步到另外一個MySQL。雖然有了MySQL主主結構,但是不能保證高可用,比如,我們的應用程式連線的是192.168.73.141(主1),倘若192.168.73.141(主1)的MySQL掛掉了,我們的應用程式並不能自動的切換到192.168.73.142(主2),我們的應用程式也是不可用的狀態。要做到這一點,就要藉助於Keepalived。
Keepalived有兩個主要的功能:
- 提供虛IP,實現雙機熱備
- 通過LVS,實現負載均衡
我們這裡使用Keepalived,只需要使用其中的一個功能,提供虛IP,實現雙機熱備。我們需要在192.168.73.141(主1)和192.168.73.142(主2)上都安裝Keepalived,執行命令如下:
yum install keepalived
我們直接使用yum進行安裝。安裝完之後,編輯keepalived的配置檔案,首先編輯192.168.73.141(主1)上的配置檔案,如下:
vim /etc/keepalived/keepalived.conf
# 全域性配置 不用動 只需註釋掉vrrp_strict
global_defs {
notification_email {
acassen@firewall.loc
failover@firewall.loc
sysadmin@firewall.loc
}
notification_email_from Alexandre.Cassen@firewall.loc
smtp_server 192.168.200.1
smtp_connect_timeout 30
router_id LVS_DEVEL
vrrp_skip_check_adv_addr
#必須註釋掉 否則報錯
#vrrp_strict
vrrp_garp_interval 0
vrrp_gna_interval 0
}
# 檢查mysql服務是否存活的指令碼
vrrp_script chk_mysql {
script "/usr/bin/killall -0 mysqld"
}
# vrrp配置虛IP
vrrp_instance VI_1 {
# 狀態:MASTER 另外一臺機器為BACKUP
state MASTER
# 繫結的網路卡
interface ens33
# 虛擬路由id 兩臺機器需保持一致
virtual_router_id 51
# 優先順序 MASTER的值要大於BACKUP
priority 100
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
# 虛擬IP地址 兩臺keepalived需要一致
virtual_ipaddress {
192.168.73.150
}
# 檢查指令碼 vrrp_script的名字
track_script {
chk_mysql
}
}
###後邊的virtual_server全部註釋掉 它是和LVS做負載均衡用的 這裡用不到
###
再編輯192.168.73.142(主2)上的配置檔案,只需要將state MASTER改為state BACKUP,如下:
state BACKUP
通過keepalived的配置,我們對外提供192.168.73.150的IP,這個IP實際指向是192.168.73.141(主1),因為它的state是MASTER。當keepalived檢測到192.168.73.141(主1)上的MySQL不可用時,會自動切換到192.168.73.142(主2)。對於外部使用者是無感知的,因為外部統一使用的是192.168.73.150。
我們再來看看檢測的指令碼/usr/bin/killall -0 mysqld
,killall命令不是系統自帶的,需要安裝,我們還是使用yum來安裝,如下:
# 先查詢一下killall
yum search killall
#找到了psmisc.x86_64
Loading mirror speeds from cached hostfile
===============Matched: killall ================================
psmisc.x86_64 : Utilities for managing processes on your system
# 安裝psmisc
yum install psmisc
這樣我們就可以使用killall命令了。killall -0
並不是殺掉程式,而是檢查程式是否存在,如果存在則返回0,如果不存在則返回1。當返回1時,keepalived就會切換主備狀態。
好了,killall也介紹完了,我們在兩臺機器上啟動keepalived,如下:
# 啟動keepalived
service keepalived start
然後,我們在192.168.73.141(主1)上檢視一下IP是否有192.168.73.150,如下:
ip addr
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
valid_lft forever preferred_lft forever
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:57:8c:cd brd ff:ff:ff:ff:ff:ff
inet 192.168.73.141/24 brd 192.168.73.255 scope global noprefixroute ens33
valid_lft forever preferred_lft forever
inet 192.168.73.150/32 scope global ens33 # 我們看到了192.168.73.150
valid_lft forever preferred_lft forever
inet6 fe80::720b:92b0:7f78:57ed/64 scope link noprefixroute
valid_lft forever preferred_lft forever
到這裡,keepalived的配置就完成了,我們通過navicat連線192.168.73.150,可以正常的連線資料庫,實際上它連線的是192.168.73.141的資料庫,我們運算元據庫也是正常的。
然後,我們停掉192.168.73.141(主1)上的MySQL服務,
service mysqld stop
# 再用 ip addr檢視一下
ip addr
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
valid_lft forever preferred_lft forever
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:57:8c:cd brd ff:ff:ff:ff:ff:ff
inet 192.168.73.141/24 brd 192.168.73.255 scope global noprefixroute ens33
valid_lft forever preferred_lft forever
inet6 fe80::720b:92b0:7f78:57ed/64 scope link noprefixroute
valid_lft forever preferred_lft forever
192.168.73.150的IP找不到了,我們再去192.168.73.142(主2)上去檢視,可以發現192.168.73.150的IP。我們在navicat上運算元據庫,是可以正常使用的。但這時實際連線的是192.168.73.142(主2)的資料庫。我們是沒有感知的。如果我們把192.168.73.141(主1)上的mysql服務再啟動起來,192.168.73.150還會切換到192.168.73.141(主1)。
總結
我們通過MySQL主主結構+keepalived雙機熱備實現了MySQL的高可用,我們應用程式可以連線虛IP,具體連線的實際MySQL,不需要我們關心。如果我們再做讀寫分離的話,可以將MySQL(主2)作為主,配置資料庫的主從關係。這時,虛IP連線的是MySQL(主1),MySQL(主1)將資料同步到MySQL(主2),然後MySQL(主2)再將資料同步到其他從庫。如果MySQL(主1)掛掉,虛IP指向MySQL(主2),MySQL(主2)再將資料同步到其他從庫。