MYSQL 主從 + ATLAS 讀寫分離 搭建

germany006發表於2019-09-18

一、環境準備

作業系統CENTOS 7.5

資料庫MYSQL5.6.40

ATLAS2.2.1


IP地址

主庫192.168.56.118

備庫192.168.56.119

ATLAS  中介軟體 192.168.56.117


我這裡只寫的是普通的讀寫分離搭建,沒有那些share分表之類的那麼多複雜的,以後有時間了再搞~_~


MYSQL主從搭建,這個,其實可以直接去看我寫的一篇MYSQL主從和主主的文章


http://blog.itpub.net/28371090/viewspace-2154828/

已經很詳細了,下面再寫一遍,只是想要更簡潔一些。

 

MYSQL5.6.40下載地址(原始碼包)

https://downloads.mysql.com/archives/get/file/mysql-5.6.40.tar.gz


ATLAS2.2.1下載地址

https://github.com/Qihoo360/Atlas/releases/tag/2.2.1


兩臺伺服器一樣的安裝方式

二、 MYSQL原始碼安裝

使用本地yum源

[520]  
name=520  
baseurl=file:///mnt/cdrom  
gpgcheck=0  
enabled=1

1、安裝依賴
yum -y install make gcc-c++ cmake bison-devel  ncurses-devel perl
2、建立使用者和組 
groupadd mysql
useradd mysql -g mysql -M -s /sbin/nologin 

3 、解壓tar -zxvf mysql-5.6.40.tar.gz

cd /opt/

tar -zxvf mysql-5.6.40.tar.gz -C /opt/

cd /opt/mysql-5.6.40

mkdir /data/mysql5.6.40/

4、編譯安裝
cmake -DCMAKE_INSTALL_PREFIX=/opt/mysql-5.6.40/ -DMYSQL_DATADIR=/data/mysql5.6.40/ -DSYSCONFDIR=/etc -DWITH_MYISAM_STORAGE_ENGINE=1 -DWITH_INNOBASE_STORAGE_ENGINE=1 -DWITH_MEMORY_STORAGE_ENGINE=1 -DWITH_READLINE=1 -DMYSQL_UNIX_ADDR=/tmp/mysqld.sock -DMYSQL_TCP_PORT=3306 -DENABLED_LOCAL_INFILE=1 -DWITH_PARTITION_STORAGE_ENGINE=1 -DEXTRA_CHARSETS=all -DDEFAULT_CHARSET=utf8 -DDEFAULT_COLLATION=utf8_general_ci

5、編譯

make &&make install

6、目錄授權
chown mysql.mysql   /data/mysql5.6.40/
mkdir   /data/mysql5.6.40/log
chown mysql.mysql   /data/mysql5.6.40/log
7、資料庫初始化
cd   /opt/mysql-5.6.40/
./scripts/mysql_install_db --user=mysql --datadir= /data/mysql5.6.40/
8、配置環境變數
vi /root/.bash_profile 在最後一行新增
PATH=$PATH:$HOME/bin:/data/mysql5.6.40/bin:/data/mysql5.6.40/lib


三、MYSQL5.6.40主從搭建

1、Master端配置部署

a、在主伺服器上的my.cnf配置檔案中的[mysqld]節點下新增以下配置

vi /etc/my.cnf  

[mysqld]  

server-id=101

default-storage-engine=InnoDB

lower_case_table_names=1

log-bin=/data/mysql5.6.40/log/mysql-bin.log

log-bin-index= /data/mysql5.6.40/log/mysql-bin.index

expire_logs_days=30

datadir= /data/mysql5.6.40/

socket=/tmp/mysql.sock

user=mysql

# Disabling symbolic-links is recommended to prevent assorted security risks

symbolic-links=0

[mysqld_safe]

#log-error= /data/mysql5.6.40/mysqld.log

#pid-file= /data/mysql5.6.40/mysqld.pid


這裡有遇到啟動不了的情況就註釋掉



啟動資料庫  
傳統啟動方式
/usr/local/mysql/bin/mysqld_safe --user=mysql &
製作成服務啟動
cp /usr/local/mysql/support-files/mysql.server /etc/init.d/mysql
檢視啟動是否成功
netstat -tnl|grep 3306
ps -ef|grep mysql
相關命令
service mysql start
停止mysql服務
service mysql stop
重啟mysql服務
service mysql restart 
新增到開機啟動項
chkconfig --add mysql


b、建立使用者,並賦予許可權:

登陸資料庫時報錯
ERROR 2002 (HY000): Can't connect to local MySQL server through socket '/tmp/mysqld.sock' (2)

ln -s /tmp/mysql.sock  /tmp/mysqld.sock

登陸
mysql -uroot

create user repl_user;

GRANT REPLICATION SLAVE ON *.* TO 'repl'@'%' IDENTIFIED BY PASSWORD '******';

設定密碼時會遇到報錯:

ERROR 1372 (HY000): Password hash should be a 41-digit hexadecimal number

解決辦法:用select password('你想輸入的密碼');查詢出你的密碼對應的字串

select password('123456');

查出的是*6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9

GRANT REPLICATION SLAVE ON *.* TO 'repl_user'@'%' IDENTIFIED BY PASSWORD '*6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9';




2、Slave端配置部署

vi /etc/my.cnf  

[mysqld]  

server-id=102

default-storage-engine=InnoDB

lower_case_table_names=1

log-bin=/data/mysql5.6.40/log/mysql-bin.log

log-bin-index= /data/mysql5.6.40/log/mysql-bin.index

expire_logs_days=30

datadir= /data/mysql5.6.40/

socket=/tmp/mysql.sock

user=mysql

# Disabling symbolic-links is recommended to prevent assorted security risks

symbolic-links=0

[mysqld_safe]

#log-error= /data/mysql5.6.40/mysqld.log

#pid-file= /data/mysql5.6.40/mysqld.pid

3、建立主從同步

由於我這裡是新搭建的庫,直接建立即可,不需要搞什麼備份匯入


主庫:

登入mysql

show master status;

記住 file和position

mysql> show master status;
+------------------+----------+--------------+------------------+-------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+------------------+----------+--------------+------------------+-------------------+
| mysql-bin.000002 |      120 |              |                  |                   |
+------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)

從庫

登入mysql

change master to

master_host='192.168.56.118',

master_port=3306,

master_user='repl_user',

master_password='123456',

master_log_file='mysql-bin.000002',

master_log_pos=120;

配置成功後,啟動slave

start slave;


驗證主從是否搭建成功在從庫執行

show slave status \G;
看到兩個YES就OK


 Slave_IO_Running: Yes
Slave_SQL_Running: Yes
在主庫建立一個表

use test
create table aa (name char(10));
insert into aa values('Tom');
在從庫查詢
use test
select * from aa;
查到剛剛插入的資料就O了

mysql> use mysql;

mysql> desc user;

mysql> GRANT ALL PRIVILEGES ON *.* TO root@"%" IDENTIFIED BY "root"; //授權遠端連線

mysql> update user set Password = password('123456') where User='root'; //設定root使用者密碼

mysql> select Host,User,Password from user where User='root';

mysql> flush privileges;

mysql> exit



四、報錯問題處理:


MYSQL啟動報錯

(1)

報錯現象:

[root@node1 mysql]# service mysql start

Starting MySQL.. ERROR! The server quit without updating PID file (/var/lib/mysql/node1.pid).

檢視報錯日誌:

[root@node1 mysql]# tail  /var/log/mysqld.log 

190512 19:59:10  InnoDB: Starting an apply batch of log records to the database...

InnoDB: Progress in percents: 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 

InnoDB: Apply batch completed

190512 19:59:10  InnoDB: Waiting for the background threads to start

190512 19:59:11 InnoDB: 5.5.40 started; log sequence number 1595675

190512 19:59:11 [Note] Server hostname (bind-address): '0.0.0.0'; port: 3306

190512 19:59:11 [Note]   - '0.0.0.0' resolves to '0.0.0.0';

190512 19:59:11 [Note] Server socket created on IP: '0.0.0.0'.

190512 19:59:11 [ERROR] Fatal error: Can't open and lock privilege tables: Table 'mysql.host' doesn't exist

190512 19:59:11 mysqld_safe mysqld from pid file /var/lib/mysql/node1.pid ended



解決方法:

檢視配置檔案,發現配置檔案中datadir目錄是預設的,需要修改成自己設定的/usr/local/mysql/data/

[root@node1 mysql]# cat /etc/my.cnf 

[mysqld]

datadir=/var/lib/mysql

socket=/var/lib/mysql/mysql.sock

user=mysql

# Disabling symbolic-links is recommended to prevent assorted security risks

symbolic-links=0


[mysqld_safe]

log-error=/var/log/mysqld.log

pid-file=/var/run/mysqld/mysqld.pid

[root@node1 mysql]# vi /etc/my.cnf 

datadir=/usr/local/mysql/data/

修改完成後重新啟動MYSQL成功

[root@node1 mysql]# service mysql start

Starting MySQL.. SUCCESS! 



(2)

報錯現象:

[root@node1 mysql]# /usr/local/mysql/bin/mysql -uroot

ERROR 2002 (HY000): Can't connect to local MySQL server through socket '/tmp/mysql.sock' (2)


檢視配置檔案發現socket檔案在/var/lib/mysql/mysql.sock,而不是在 /tmp/mysql.sock

[root@node1 mysql]# cat /etc/my.cnf 

[mysqld]

datadir=/usr/local/mysql/data/

socket=/var/lib/mysql/mysql.sock

user=mysql

# Disabling symbolic-links is recommended to prevent assorted security risks

symbolic-links=0


[mysqld_safe]

log-error=/var/log/mysqld.log

pid-file=/var/run/mysqld/mysqld.pid


解決方法:
設定軟連結

ln -s /var/lib/mysql/mysql.sock  /tmp/mysql.sock


或者,修改配置檔案



注意一個問題,在生產環境,要注意時區問題

vi /etc/my.cnf

[mysqld]

default-time_zone = '+8:00'

使用北京時間的時區



注意事項:
mysql異常當機情況下,如果未設定sync_binlog=1或者innodb_flush_log_at_trx_commit=1很有可能出現binlog或者relaylog檔案出現損壞,導致主從不一致。



五、ATLAS讀寫分離配置

ATLAS2.2.1下載地址

https://github.com/Qihoo360/Atlas/releases/tag/2.2.1

Atlas-2.2.1.el6.x86_64.rpm


rpm -ivh Atlas-2.2.1.el6.x86_64.rpm

安裝完成後,它會預設在”/usr/local/mysql-proxy”目錄下生成4個資料夾,以及需要配置的檔案,如下:

[root@localhost ~]# ll /usr/local/mysql-proxy/
total 4
drwxr-xr-x. 2 root root   75 Jul 30 14:27 bin
drwxr-xr-x. 2 root root   22 Jul 30 16:35 conf
drwxr-xr-x. 3 root root 4096 Jul 30 14:27 lib
drwxr-xr-x. 2 root root   38 Jul 30 16:35 log


bin目錄下放的都是可執行檔案

1. “encrypt”是用來生成MySQL密碼加密的,在配置的時候會用到

2. “mysql-proxy”是MySQL自己的讀寫分離代理

3. “mysql-proxyd”是360弄出來的,後面有個“d”,服務的啟動、重啟、停止。都是用他來執行的

 

conf目錄下放的是配置檔案

1. “test.cnf”只有一個檔案,用來配置代理的,可以使用vim來編輯

 

lib目錄下放的是一些包,以及Atlas的依賴

log目錄下放的是日誌,如報錯等錯誤資訊的記錄



進入bin目錄,使用encrypt來對資料庫的密碼進行加密,我的MySQL資料的使用者名稱是buck,密碼是hello,我需要對密碼進行加密

[root@localhost bin]# ./encrypt hello
RePBqJ+5gI4=


配置Atlas,使用vim進行編輯

[root@localhost conf]# cd /usr/local/mysql-proxy/conf/
[root@localhost conf]# vim test.cnf



這是用來登入到Atlas的管理員的賬號與密碼,與之對應的是“#Atlas監聽的管理介面IP和埠”,也就是說需要設定管理員登入的埠,才能進入管理員介面,預設埠是2345,也可以指定IP登入,指定IP後,其他的IP無法訪問管理員的命令介面。方便測試,我這裡沒有指定IP和埠登入。

#管理介面的使用者名稱
admin-username = user

#管理介面的密碼
admin-password = pwd


這裡的管理介面使用者名稱和密碼也用的是預設的


這是用來配置主資料的地址與從資料庫的地址,這裡配置的主資料庫是118,從資料庫是119


#Atlas後端連線的MySQL主庫的IP和埠,可設定多項,用逗號分隔
proxy-backend-addresses = 192.168.56.118:3306

#Atlas後端連線的MySQL從庫的IP和埠,@後面的數字代表權重,用來作負載均衡,若省略則預設為1,可設定多項,用逗號分隔
proxy-read->

這個是用來配置MySQL的賬戶與密碼的,我的MySQL的使用者是buck,密碼是hello,剛剛使用Atlas提供的工具生成了對應的加密密碼

#使用者名稱與其對應的加密過的MySQL密碼,密碼使用PREFIX/bin目錄下的加密程式encrypt加密,下行的user1和user2為示例,將其替換為你的MySQL的使用者名稱和加密密碼!
pwds = buck:RePBqJ+5gI4=


RePBqJ+5gI4=這個就是前面自己加密過的密碼,填上去)

這是設定工作介面與管理介面的,如果ip設定的”0.0.0.0”就是說任意IP都可以訪問這個介面,當然也可以指定IP和埠,方便測試我這邊沒有指定,工作介面的使用者名稱密碼與MySQL的賬戶對應的,管理員的使用者密碼與上面配置的管理員的使用者密碼對應。

#Atlas監聽的工作介面IP和埠
proxy-address = 0.0.0.0:1234
#Atlas監聽的管理介面IP和埠
admin-address = 0.0.0.0:2345


啟動Atlas

[root@localhost bin]# ./mysql-proxyd test start
OK: MySQL-Proxy of test is started


再ATLAS機器上,我是沒有安裝MYSQL的。

/etc/init.d/mysqld status  測試下也沒問題,不過對於我來說意義不大,我根本沒安裝

ps -ef |grep mysql


使用如下命令,進入Atlas的管理模式“mysql -h127.0.0.1 -P2345 -uuser -ppwd ”,能進去說明Atlas正常執行著呢,因為它會把自己當成一個MySQL資料庫,所以在不需要資料庫環境的情況下,也可以進入到MySQL資料庫模式。


[root@localhost bin]# mysql -h127.0.0.1 -P2345 -uuser -ppwd
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.0.99-agent-admin

Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql>


可以訪問“help”表,來看MySQL管理員模式都能做些什麼。可以使用SQL語句來訪問


mysql> select * from help;
+----------------------------+---------------------------------------------------------+
| command                    | description                                             |
+----------------------------+---------------------------------------------------------+
| SELECT * FROM help         | shows this help                                         |
| SELECT * FROM backends     | lists the backends and their state                      |
| SET OFFLINE $backend_id    | offline backend server, $backend_id is backend_ndx's id |
| SET ONLINE $backend_id     | online backend server, ...                              |
| ADD MASTER $backend        | example: "add master 127.0.0.1:3306", ...               |
| ADD SLAVE $backend         | example: "add slave 127.0.0.1:3306", ...                |
| REMOVE BACKEND $backend_id | example: "remove backend 1", ...                        |
| SELECT * FROM clients      | lists the clients                                       |
| ADD CLIENT $client         | example: "add client 192.168.1.2", ...                  |
| REMOVE CLIENT $client      | example: "remove client 192.168.1.2", ...               |
| SELECT * FROM pwds         | lists the pwds                                          |
| ADD PWD $pwd               | example: "add pwd user:raw_password", ...               |
| ADD ENPWD $pwd             | example: "add enpwd user:encrypted_password", ...       |
| REMOVE PWD $pwd            | example: "remove pwd user", ...                         |
| SAVE CONFIG                | save the backends to config file                        |
| SELECT VERSION             | display the version of Atlas                            |
+----------------------------+---------------------------------------------------------+
16 rows in set (0.00 sec)

mysql>


也可以使用工作介面來訪問,使用命令“mysql -h127.0.0.1 -P1234 -ubuck -phello”


[root@localhost bin]# mysql -h127.0.0.1 -P1234 -ubuck -phello
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.0.81-log
Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.
Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.
mysql>



如果工作介面可以進入了,就可以在Windows平臺下,使用Navicat來連線資料庫,填寫對應的host,Port,使用者名稱,密碼就可以


4. 讀寫分離測試

這裡測試讀寫分離需要使用到Jmeter了,它是Java寫第一套開源的壓力測試工具,因為這個比較方便。他有專門測試MySQL的模組,需要使用MySQL的JDBC驅動jar包,配置很簡單,東西很好很強大很好用。

Jmeter下載地址:

https://mirrors.tuna.tsinghua.edu.cn/apache//jmeter/binaries/apache-jmeter-5.1.1.zip


MySQL的JDBC包  :

https://cdn.mysql.com//archives/mysql-connector-java-5.1/mysql-connector-java-5.1.44.zip


JAVA8

https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html


 

載後,分別都解壓開來,開啟Jmeter ( 在bin目錄下有個jmeter.bat,雙擊它前,你的機器需要先安裝JAVA8,只有這樣才可以執行 ) ,在測試計劃中,匯入JDBC的jar包

 


配置JDBC的驅動,如下圖

名稱可以隨意填,URL、賬密這些按之前設定的來即可,如下圖

jdbc:mysql://192.168.56.117:1234/test buck hello


配置完成後,進行測試

先建立一個組


新增測試的JDBC REQUEST

先整一個查詢的測試


點選執行之後,去伺服器上面的主備庫觀察資料傳輸情況

sar -n DEV 1 10000  用這條命令

或者iostat 也可以

主庫:(明顯是沒有資料傳輸(幾乎沒讀寫))

備庫:(明顯紅色框框看到有資料傳輸)


由此可見,資料讀是從備庫讀取的。


寫入資料也是一樣

在主庫

create database test;

create table sbtest (name varchar(9));

insert into sbtest values ('Tom');

insert into sbtest as select * from sbtest;

不停執行以下語句的迴圈插入

insert into sbtest as select * from sbtest;

有個上百萬行,可以開始測試了。




來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/28371090/viewspace-2652909/,如需轉載,請註明出處,否則將追究法律責任。

相關文章