Mysql之讀寫分離架構-Atlas

youmen發表於2021-04-23

Atlas介紹

​ Atlas是由 Qihoo 360, Web平臺部基礎架構團隊開發維護的一個基於MySQL協議的資料中間層專案。
它是在mysql-proxy 0.8.2版本的基礎上,對其進行了優化,增加了一些新的功能特性;
​ 360內部使用Atlas執行的mysql業務,每天承載的讀寫請求數達幾十億條;

下載地址
https://github.com/Qihoo360/Atlas/releases
注意:

1、Atlas只能安裝執行在64位的系統上

2、Centos 5.X安裝 Atlas-XX.el5.x86_64.rpm,Centos6.X安裝Atlas-XX.el6.x86_64.rpm。

3、後端mysql版本應大於5.1,建議使用Mysql 5.6以上

4、8.0以上版本建議使用MySQL官方MySQL-Router

主要功能

  • 讀寫分離
  • 從庫負載均衡
  • IP過濾
  • 自動分表
  • DBA可平滑上下線DB
  • 自動摘除當機的DB

Atlas相對於官方MySQL-Proxy的優勢
1.將主流程中所有Lua程式碼用C重寫,Lua僅用於管理介面

2.重寫網路模型、執行緒模型

3.實現了真正意義上的連線池

4.優化了鎖機制,效能提高數十倍

安裝配置

yum install -y Atlas*
cd /usr/local/mysql-proxy/conf
mv test.cnf test.cnf.bak

 vi test.cnf
[mysql-proxy]

#帶#號的為非必需的配置專案

#管理介面的使用者名稱
admin-username = root

#管理介面的密碼
admin-password = MyNewPass!

#Atlas後端連線的MySQL主庫的IP和埠,可設定多項,用逗號分隔
proxy-backend-addresses = 192.168.199.149:3306

#Atlas後端連線的MySQL從庫的IP和埠,@後面的數字代表權重,用來作負載均衡,若省略則預設為1,可設定多項,用逗號分隔
proxy-read-only-backend-addresses = 192.168.199.198:3306@1

#使用者名稱與其對應的加密過的MySQL密碼,密碼使用PREFIX/bin目錄下的加密程式encrypt加密,下行的user1和user2為示例,將其替換為你的MySQL的使用者名稱和加密密碼!
#pwds = user1:+jKsgB3YAG8=, user2:GS+tr4TPgqc=
pwds = root:EQOnCBjybDXeQgv6rMKE2w==

#設定Atlas的執行方式,設為true時為守護程式方式,設為false時為前臺方式,一般開發除錯時設為false,線上執行時設為true,true後面不能有空格。
daemon = true

#設定Atlas的執行方式,設為true時Atlas會啟動兩個程式,一個為monitor,一個為worker,monitor在worker意外退出後會自動將其重啟,設為false時只有worker,沒有monitor,一般開發除錯時設為false,線上執行時設為true,true後面不能有空格。
keepalive = true

#工作執行緒數,對Atlas的效能有很大影響,可根據情況適當設定
event-threads = 8

#日誌級別,分為message、warning、critical、error、debug五個級別
log-level = message

#日誌存放的路徑
log-path = /usr/local/mysql-proxy/log

#SQL日誌的開關,可設定為OFF、ON、REALTIME,OFF代表不記錄SQL日誌,ON代表記錄SQL日誌,REALTIME代表記錄SQL日誌且實時寫入磁碟,預設為OFF
sql-log = REALTIME

#慢日誌輸出設定。當設定了該引數時,則日誌只輸出執行時間超過sql-log-slow(單位:ms)的日誌記錄。不設定該引數則輸出全部日誌。
#sql-log-slow = 10

#例項名稱,用於同一臺機器上多個Atlas例項間的區分
instance = test

#Atlas監聽的工作介面IP和埠
proxy-address = 192.168.199.227:8080

#Atlas監聽的管理介面IP和埠
admin-address = 192.168.199.227:8081

#分表設定,此例中person為庫名,mt為表名,id為分表欄位,3為子表數量,可設定多項,以逗號分隔,若不分表則不需要設定該項
#tables = person.mt.id.3

#預設字符集,設定該項後客戶端不再需要執行SET NAMES語句
charset = utf8

#允許連線Atlas的客戶端的IP,可以是精確IP,也可以是IP段,以逗號分隔,若不設定該項則允許所有IP連線,否則只允許列表中的IP連線
#client-ips = 127.0.0.1, 192.168.1

#Atlas前面掛接的LVS的物理網路卡的IP(注意不是虛IP),若有LVS且設定了client-ips則此項必須設定,否則可以不設定
#lvs-ips = 192.168.1.1

# 啟動atlas
/usr/local/mysql-proxy/bin/mysql-proxyd test start
ps -ef |grep proxy

兩個程式,一個負責管理一個負責對外提供服務;

Atlas功能測試

# 測試讀操作:
mysql -umha -pmha  -h 192.168.0.8 -P 33060 
db03 [(none)]>select @@server_id;

# 測試寫操作:
mysql> begin;select @@server_id;commit;

生產使用者要求

開發人員申請一個應用使用者 app(  select  update  insert)  密碼123456,要通過10網段登入
1. 在主庫中,建立使用者
grant select ,update,insert on *.* to app@'10.0.0.%' identified by '123456';
2. 在atlas中新增生產使用者
/usr/local/mysql-proxy/bin/encrypt  123456      ---->製作加密密碼
vim test.cnf
pwds = repl:3yb5jEku5h4=,mha:O2jBXONX098=,app:/iZxz+0GRoA=
/usr/local/mysql-proxy/bin/mysql-proxyd test restart
[root@db03 conf]# mysql -uapp -p123456  -h 10.0.0.53 -P 33060

Atlas管理

連線管理埠

mysql -uuser -ppwd -h127.0.0.1 -P2345

查詢後端所有節點資訊

mysql>  SELECT * FROM backends    ;

動態新增刪除節點

# 動態刪除節點
REMOVE BACKEND 3;

# 動態新增節點
ADD SLAVE 10.0.0.53:3306;

# 儲存配置檔案
SAVE CONFIG;

自動分表

介紹

使用Atlas的分表功能時,首先需要在配置檔案test.cnf設定tables引數。
tables引數設定格式:資料庫名.表名.分表欄位.子表數量,
比如:
你的資料庫名叫school,表名叫stu,分表欄位叫id,總共分為2張表,那麼就寫為school.stu.id.2,如果還有其他的分表,以逗號分隔即可。

讀寫分離

MySQL-Router    ---> MySQL官方
ProxySQL         --->Percona
Maxscale         ---> MariaDB

小結

1、如果你是新表,並且預見以後資料很大,可以用上Atlas來解決資料量的問題;

2、舊錶的話,你還得自己寫指令碼導資料,核對資料;

3、如果有些分頁查詢的話,還需要自己重寫;

4、確定你的所有場景的查詢是否都有分表欄位作為where,沒有的話,需要自己再寫工具將子表的資料同步到總表;

可以看到Atlas如果需要產品化還要做很多的事情,如果確定上面都不是問題,就大膽的用吧

相關文章