MYSQL 主從 + ATLAS 讀寫分離 搭建

一、環境準備

作業系統CENTOS 7.5

資料庫MYSQL5.6.40

ATLAS2.2.1

IP地址

主庫192.168.56.118

備庫192.168.56.119

ATLAS  中介軟體 192.168.56.117

我這裡只寫的是普通的讀寫分離搭建，沒有那些share分表之類的那麼多複雜的，以後有時間了再搞~_~

MYSQL主從搭建，這個，其實可以直接去看我寫的一篇MYSQL主從和主主的文章

http://blog.itpub.net/28371090/viewspace-2154828/

已經很詳細了，下面再寫一遍，只是想要更簡潔一些。

MYSQL5.6.40下載地址(原始碼包)

https://downloads.mysql.com/archives/get/file/mysql-5.6.40.tar.gz

ATLAS2.2.1下載地址

https://github.com/Qihoo360/Atlas/releases/tag/2.2.1

兩臺伺服器一樣的安裝方式

二、 MYSQL原始碼安裝

使用本地yum源

[520]  
name=520  
baseurl=file:///mnt/cdrom  
gpgcheck=0  
enabled=1

1、安裝依賴
yum -y install make gcc-c++ cmake bison-devel  ncurses-devel perl
2、建立使用者和組 
groupadd mysql
useradd mysql -g mysql -M -s /sbin/nologin 

3 、解壓tar -zxvf mysql-5.6.40.tar.gz

cd /opt/

tar -zxvf mysql-5.6.40.tar.gz -C /opt/

cd /opt/mysql-5.6.40

mkdir /data/mysql5.6.40/

4、編譯安裝
cmake -DCMAKE_INSTALL_PREFIX=/opt/mysql-5.6.40/ -DMYSQL_DATADIR=/data/mysql5.6.40/ -DSYSCONFDIR=/etc -DWITH_MYISAM_STORAGE_ENGINE=1 -DWITH_INNOBASE_STORAGE_ENGINE=1 -DWITH_MEMORY_STORAGE_ENGINE=1 -DWITH_READLINE=1 -DMYSQL_UNIX_ADDR=/tmp/mysqld.sock -DMYSQL_TCP_PORT=3306 -DENABLED_LOCAL_INFILE=1 -DWITH_PARTITION_STORAGE_ENGINE=1 -DEXTRA_CHARSETS=all -DDEFAULT_CHARSET=utf8 -DDEFAULT_COLLATION=utf8_general_ci

5、編譯

make &&make install

6、目錄授權
chown mysql.mysql   /data/mysql5.6.40/
mkdir   /data/mysql5.6.40/log
chown mysql.mysql   /data/mysql5.6.40/log
7、資料庫初始化
cd   /opt/mysql-5.6.40/
./scripts/mysql_install_db --user=mysql --datadir= /data/mysql5.6.40/
8、配置環境變數
vi /root/.bash_profile 在最後一行新增
PATH=$PATH:$HOME/bin:/data/mysql5.6.40/bin:/data/mysql5.6.40/lib

三、MYSQL5.6.40主從搭建

1、Master端配置部署

a、在主伺服器上的my.cnf配置檔案中的[mysqld]節點下新增以下配置

vi /etc/my.cnf  

[mysqld]  

#pid-file= /data/mysql5.6.40/mysqld.pid

這裡有遇到啟動不了的情況就註釋掉

啟動資料庫  
傳統啟動方式
/usr/local/mysql/bin/mysqld_safe --user=mysql &
製作成服務啟動
cp /usr/local/mysql/support-files/mysql.server /etc/init.d/mysql
檢視啟動是否成功
netstat -tnl|grep 3306
ps -ef|grep mysql
相關命令
service mysql start
停止mysql服務
service mysql stop
重啟mysql服務
service mysql restart 
新增到開機啟動項
chkconfig --add mysql

create user repl_user;

GRANT REPLICATION SLAVE ON *.* TO 'repl'@'%' IDENTIFIED BY PASSWORD '******';

設定密碼時會遇到報錯：

ERROR 1372 (HY000): Password hash should be a 41-digit hexadecimal number

解決辦法：用select password('你想輸入的密碼');查詢出你的密碼對應的字串

select password('123456');

查出的是*6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9

GRANT REPLICATION SLAVE ON *.* TO 'repl_user'@'%' IDENTIFIED BY PASSWORD '*6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9';

2、Slave端配置部署

vi /etc/my.cnf  

[mysqld]  

#pid-file= /data/mysql5.6.40/mysqld.pid

3、建立主從同步

由於我這裡是新搭建的庫，直接建立即可，不需要搞什麼備份匯入

主庫：

登入mysql

show master status;

記住 file和position

mysql> show master status;
+------------------+----------+--------------+------------------+-------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+------------------+----------+--------------+------------------+-------------------+
| mysql-bin.000002 |      120 |              |                  |                   |
+------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)

從庫 ：

登入mysql

change master to

master_host='192.168.56.118',

master_port=3306,

master_user='repl_user',

master_password='123456',

master_log_file='mysql-bin.000002',

master_log_pos=120;

配置成功後，啟動slave

start slave;

驗證主從是否搭建成功在從庫執行

use test
create table aa (name char(10));
insert into aa values('Tom');
在從庫查詢
use test
select * from aa;
查到剛剛插入的資料就O了

mysql> use mysql;

mysql> desc user;

mysql> GRANT ALL PRIVILEGES ON *.* TO root@"%" IDENTIFIED BY "root"; //授權遠端連線

mysql> update user set Password = password('123456') where User='root'; //設定root使用者密碼

mysql> select Host,User,Password from user where User='root';

mysql> flush privileges;

mysql> exit

四、報錯問題處理：

MYSQL啟動報錯

（1）

報錯現象：

[root@node1 mysql]# service mysql start

Starting MySQL.. ERROR! The server quit without updating PID file (/var/lib/mysql/node1.pid).

檢視報錯日誌：

[root@node1 mysql]# tail  /var/log/mysqld.log 

190512 19:59:10  InnoDB: Starting an apply batch of log records to the database...

InnoDB: Progress in percents: 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 

InnoDB: Apply batch completed

190512 19:59:10  InnoDB: Waiting for the background threads to start

190512 19:59:11 InnoDB: 5.5.40 started; log sequence number 1595675

190512 19:59:11 [Note] Server hostname (bind-address): '0.0.0.0'; port: 3306

190512 19:59:11 [Note]   - '0.0.0.0' resolves to '0.0.0.0';

190512 19:59:11 [Note] Server socket created on IP: '0.0.0.0'.

190512 19:59:11 [ERROR] Fatal error: Can't open and lock privilege tables: Table 'mysql.host' doesn't exist

190512 19:59:11 mysqld_safe mysqld from pid file /var/lib/mysql/node1.pid ended

解決方法：

檢視配置檔案，發現配置檔案中datadir目錄是預設的，需要修改成自己設定的/usr/local/mysql/data/

[root@node1 mysql]# cat /etc/my.cnf 

[mysqld]

datadir=/var/lib/mysql

socket=/var/lib/mysql/mysql.sock

user=mysql

# Disabling symbolic-links is recommended to prevent assorted security risks

symbolic-links=0

[mysqld_safe]

log-error=/var/log/mysqld.log

pid-file=/var/run/mysqld/mysqld.pid

[root@node1 mysql]# vi /etc/my.cnf 

datadir=/usr/local/mysql/data/

修改完成後重新啟動MYSQL成功

[root@node1 mysql]# service mysql start

Starting MySQL.. SUCCESS! 

（2）

報錯現象：

[root@node1 mysql]# /usr/local/mysql/bin/mysql -uroot

ERROR 2002 (HY000): Can't connect to local MySQL server through socket '/tmp/mysql.sock' (2)

檢視配置檔案發現socket檔案在/var/lib/mysql/mysql.sock，而不是在 /tmp/mysql.sock

[root@node1 mysql]# cat /etc/my.cnf 

[mysqld]

datadir=/usr/local/mysql/data/

socket=/var/lib/mysql/mysql.sock

user=mysql

# Disabling symbolic-links is recommended to prevent assorted security risks

symbolic-links=0

[mysqld_safe]

log-error=/var/log/mysqld.log

pid-file=/var/run/mysqld/mysqld.pid

解決方法：
設定軟連結

ln -s /var/lib/mysql/mysql.sock  /tmp/mysql.sock

或者，修改配置檔案

注意一個問題，在生產環境，要注意時區問題

vi /etc/my.cnf

[mysqld]

default-time_zone = '+8:00'

使用北京時間的時區

注意事項：
mysql異常當機情況下，如果未設定sync_binlog=1或者innodb_flush_log_at_trx_commit=1很有可能出現binlog或者relaylog檔案出現損壞，導致主從不一致。

五、ATLAS讀寫分離配置

ATLAS2.2.1下載地址

https://github.com/Qihoo360/Atlas/releases/tag/2.2.1

Atlas-2.2.1.el6.x86_64.rpm

rpm -ivh Atlas-2.2.1.el6.x86_64.rpm

安裝完成後，它會預設在”/usr/local/mysql-proxy”目錄下生成4個資料夾，以及需要配置的檔案，如下：

[root@localhost ~]# ll /usr/local/mysql-proxy/
total 4
drwxr-xr-x. 2 root root   75 Jul 30 14:27 bin
drwxr-xr-x. 2 root root   22 Jul 30 16:35 conf
drwxr-xr-x. 3 root root 4096 Jul 30 14:27 lib
drwxr-xr-x. 2 root root   38 Jul 30 16:35 log

bin目錄下放的都是可執行檔案

1. “encrypt”是用來生成MySQL密碼加密的，在配置的時候會用到

2. “mysql-proxy”是MySQL自己的讀寫分離代理

3. “mysql-proxyd”是360弄出來的，後面有個“d”，服務的啟動、重啟、停止。都是用他來執行的

conf目錄下放的是配置檔案

1. “test.cnf”只有一個檔案，用來配置代理的，可以使用vim來編輯

lib目錄下放的是一些包，以及Atlas的依賴

log目錄下放的是日誌，如報錯等錯誤資訊的記錄

進入bin目錄，使用encrypt來對資料庫的密碼進行加密，我的MySQL資料的使用者名稱是buck，密碼是hello，我需要對密碼進行加密

[root@localhost bin]# ./encrypt hello
RePBqJ+5gI4=

配置Atlas，使用vim進行編輯

[root@localhost conf]# cd /usr/local/mysql-proxy/conf/
[root@localhost conf]# vim test.cnf

這是用來登入到Atlas的管理員的賬號與密碼，與之對應的是“#Atlas監聽的管理介面IP和埠”，也就是說需要設定管理員登入的埠，才能進入管理員介面，預設埠是2345，也可以指定IP登入，指定IP後，其他的IP無法訪問管理員的命令介面。方便測試，我這裡沒有指定IP和埠登入。

#管理介面的使用者名稱
admin-username = user

#管理介面的密碼
admin-password = pwd

這裡的管理介面使用者名稱和密碼也用的是預設的

這是用來配置主資料的地址與從資料庫的地址，這裡配置的主資料庫是118，從資料庫是119

#Atlas後端連線的MySQL主庫的IP和埠，可設定多項，用逗號分隔
proxy-backend-addresses = 192.168.56.118:3306

#Atlas後端連線的MySQL從庫的IP和埠，@後面的數字代表權重，用來作負載均衡，若省略則預設為1，可設定多項，用逗號分隔
proxy-read->

這個是用來配置MySQL的賬戶與密碼的，我的MySQL的使用者是buck,密碼是hello,剛剛使用Atlas提供的工具生成了對應的加密密碼

#使用者名稱與其對應的加密過的MySQL密碼，密碼使用PREFIX/bin目錄下的加密程式encrypt加密，下行的user1和user2為示例，將其替換為你的MySQL的使用者名稱和加密密碼！
pwds = buck:RePBqJ+5gI4=

（ RePBqJ+5gI4=這個就是前面自己加密過的密碼，填上去）

這是設定工作介面與管理介面的，如果ip設定的”0.0.0.0”就是說任意IP都可以訪問這個介面，當然也可以指定IP和埠，方便測試我這邊沒有指定，工作介面的使用者名稱密碼與MySQL的賬戶對應的，管理員的使用者密碼與上面配置的管理員的使用者密碼對應。

#Atlas監聽的工作介面IP和埠
proxy-address = 0.0.0.0:1234
#Atlas監聽的管理介面IP和埠
admin-address = 0.0.0.0:2345

啟動Atlas

[root@localhost bin]# ./mysql-proxyd test start
OK: MySQL-Proxy of test is started

再ATLAS機器上，我是沒有安裝MYSQL的。

/etc/init.d/mysqld status  測試下也沒問題，不過對於我來說意義不大，我根本沒安裝

ps -ef |grep mysql

使用如下命令，進入Atlas的管理模式“mysql -h127.0.0.1 -P2345 -uuser -ppwd ”，能進去說明Atlas正常執行著呢，因為它會把自己當成一個MySQL資料庫，所以在不需要資料庫環境的情況下，也可以進入到MySQL資料庫模式。

[root@localhost bin]# mysql -h127.0.0.1 -P2345 -uuser -ppwd
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.0.99-agent-admin

Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql>

可以訪問“help”表，來看MySQL管理員模式都能做些什麼。可以使用SQL語句來訪問

mysql> select * from help;
+----------------------------+---------------------------------------------------------+
| command                    | description                                             |
+----------------------------+---------------------------------------------------------+
| SELECT * FROM help         | shows this help                                         |
| SELECT * FROM backends     | lists the backends and their state                      |
| SET OFFLINE $backend_id    | offline backend server, $backend_id is backend_ndx's id |
| SET ONLINE $backend_id     | online backend server, ...                              |
| ADD MASTER $backend        | example: "add master 127.0.0.1:3306", ...               |
| ADD SLAVE $backend         | example: "add slave 127.0.0.1:3306", ...                |
| REMOVE BACKEND $backend_id | example: "remove backend 1", ...                        |
| SELECT * FROM clients      | lists the clients                                       |
| ADD CLIENT $client         | example: "add client 192.168.1.2", ...                  |
| REMOVE CLIENT $client      | example: "remove client 192.168.1.2", ...               |
| SELECT * FROM pwds         | lists the pwds                                          |
| ADD PWD $pwd               | example: "add pwd user:raw_password", ...               |
| ADD ENPWD $pwd             | example: "add enpwd user:encrypted_password", ...       |
| REMOVE PWD $pwd            | example: "remove pwd user", ...                         |
| SAVE CONFIG                | save the backends to config file                        |
| SELECT VERSION             | display the version of Atlas                            |
+----------------------------+---------------------------------------------------------+
16 rows in set (0.00 sec)

mysql>

也可以使用工作介面來訪問，使用命令“mysql -h127.0.0.1 -P1234 -ubuck -phello”

[root@localhost bin]# mysql -h127.0.0.1 -P1234 -ubuck -phello
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.0.81-log
Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.
Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.
mysql>

如果工作介面可以進入了，就可以在Windows平臺下，使用Navicat來連線資料庫，填寫對應的host，Port，使用者名稱，密碼就可以

4. 讀寫分離測試

這裡測試讀寫分離需要使用到Jmeter了，它是Java寫第一套開源的壓力測試工具，因為這個比較方便。他有專門測試MySQL的模組，需要使用MySQL的JDBC驅動jar包，配置很簡單，東西很好很強大很好用。

Jmeter下載地址：

https://mirrors.tuna.tsinghua.edu.cn/apache//jmeter/binaries/apache-jmeter-5.1.1.zip

MySQL的JDBC包  ：

https://cdn.mysql.com//archives/mysql-connector-java-5.1/mysql-connector-java-5.1.44.zip

JAVA8

https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

下 載後，分別都解壓開來，開啟Jmeter ( 在bin目錄下有個jmeter.bat，雙擊它前，你的機器需要先安裝JAVA8，只有這樣才可以執行 ) ，在測試計劃中，匯入JDBC的jar包

配置JDBC的驅動，如下圖

名稱可以隨意填，URL、賬密這些按之前設定的來即可，如下圖

jdbc:mysql://192.168.56.117:1234/test buck hello

配置完成後，進行測試

先建立一個組

新增測試的JDBC REQUEST

先整一個查詢的測試

點選執行之後，去伺服器上面的主備庫觀察資料傳輸情況

sar -n DEV 1 10000  用這條命令

或者iostat 也可以

主庫：（明顯是沒有資料傳輸（幾乎沒讀寫））

備庫：（明顯紅色框框看到有資料傳輸）

由此可見，資料讀是從備庫讀取的。

寫入資料也是一樣

在主庫

create database test;

create table sbtest (name varchar(9));

insert into sbtest values ('Tom');

insert into sbtest as select * from sbtest;

不停執行以下語句的迴圈插入

insert into sbtest as select * from sbtest;

有個上百萬行，可以開始測試了。

來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/28371090/viewspace-2652909/，如需轉載，請註明出處，否則將追究法律責任。