Redis簡介
Redis(Remote Dictionary Server)是完全開源的、遵守BSD協議的、高效能的Key-Value資料庫。
Redis與其他Key-Value快取產品有一下三個特點:
- Redis支援資料的持久化,可以將記憶體中的資料儲存在磁碟中,重啟的時候可以再次載入進行使用。
- Redis不僅僅支援簡單的Key-Value型別的資料,同時還提供List、Set、ZSet、Hash等資料結構的儲存
- Redis支援資料的備份,既Master-Slave模式的資料備份。
Redis優勢
- 效能極高,因為Redis是針對記憶體來讀寫的。
- 豐富的資料型別String、List、Set、ZSet、Hash
- 原子,Redis的所有操作都是原子性的,意思就是要麼成功要麼失敗完全不執行,單個操作是原子性的。多個操作也支援事務,通過MULTI和EXEC指令包起來。
- 豐富的特性 – Redis還支援 publish/subscribe, 通知, key 過期等等特性
Redis官網官方網站
Redis叢集
為什麼叢集
隨著大資料時代的到來,在大型系統應用中,幾十上百G的資料很常見.而無論是物理機、雲主機(虛擬機器),記憶體資源往往是有限的,雖然目前硬體成本降低,幾十G幾十核的主機也很常見,但是對於redis這種工作程式為單執行緒模式的工具來說,一臺主機只執行一個例項就有些浪費,且出現單點故障時影響範圍很大。同時,redis管理大記憶體時不如管理相對較小的記憶體高效,據第三方測試,redis單程式記憶體分配達到20G後效能急劇下降,因此普遍使用的方式為單程式分配8G記憶體,單主機開啟多個redis例項.
原理
Redis官方叢集方案 Redis Cluster(服務端sharding)Redis cluster是一種在服務端sharding(分片)的技術,在redis3.0版本開始正式提供。Redis cluster的服務端sharding引入了slot(槽)的概念,一共分為16384(2^14)個slot,叢集中的每個node節點負責分攤這些slot,每個進入redis的鍵值對,根據key進行hash運算,除以16384取模,匹配相應的slot,再分配進相應的node中的例項中。在redis cluster方案中,資料儲存的粒度由原來的instance再次精細為slot。Redis cluster提供一種叫做cluster bus(叢集匯流排)的功能特性,採用特殊的二進位制協議,通訊及響應速度極快。它提供節點故障檢測、故障轉移、新節點識別等節點管理功能,該功能的程式間通訊埠號為服務埠號值+10000,例如redis對外提供服務的埠號為6555,則cluster bus的埠號則為16555。值得注意的是:redis cluster是官方在3.0以後的版本才正式推出的。
Redis叢集部署
Redis叢集中有多臺Redis伺服器不可避免會有伺服器掛掉。Redis叢集伺服器之間通過互相的ping-pong判斷是否節點可以連線上。如果有一半以上的節點去ping一個節點的時候沒有回應,叢集就認為這個節點當機了。
上面就是我們常說的為了容錯而生的redis叢集投票機制。
因為叢集投票機制redis要求至少3主3從共6個節點才能組成redis叢集,每個主節點至少有一個從節點,測試環境可一臺物理上啟動6個redis節點,但生產環境至少要準備3臺物理機。
這裡為了演示我使用了三臺Centos7虛擬伺服器,每臺起兩個Redis例項,共6個節點來構建Redis叢集|
主機名 | 節點IP | 例項1埠 | 例項2埠 |
---|---|---|---|
Master1 | 192.168.200.11 | 7001 | 7002 |
Master2 | 192.168.200.12 | 7001 | 7002 |
Master3 | 192.168.200.13 | 7001 | 7002 |
部署架構圖
這裡採用Redis6.0.9版本的Redis,所有節點伺服器都需要進行以下操作
編譯安裝時要求gcc版本未5.3以上版本,
先執行gcc -v 檢視當前gcc版本
gcc -v
如果提示無gcc,首先需要安裝gcc
yum install -y gcc gcc-c++
安裝完成後檢視gcc版本,Centos版本預設安裝的是4.8.5版本的gcc,版本過低
gcc 升級
yum install -y centos-release-scl
yum install -y devtoolset-9-gcc devtoolset-9-gcc-c++ devtoolset-9-binutils
yum install -y systemd-devel
echo "source /opt/rh/devtoolset-9/enable" >> /etc/profile
source /etc/profile
升級完成後檢視gcc版本
下面進行安裝Redis
提前下載好Redis壓縮包這裡使用redis-6.0.9.tar.gz。把下載好的檔案上傳到三個伺服器上,我這裡放到了/usr/local目錄下
下面使用tar命令解壓縮
tar -zxvf redis-6.0.9.tar.gz
mv redis-6.0.9 redis609
進入redis目錄建立節點目錄
mkdir {7001,7002}
建立redis使用者並給新建的目錄附上訪問許可權
useradd -s /sbin/nologin redis
chown -R redis: /usr/local/redis609
下面進行Redis的編譯安裝
因Redis版本原因需要安裝或者更新tcl版本大於8.5
wget http://downloads.sourceforge.net/tcl/tcl8.6.1-src.tar.gz
sudo tar xzvf tcl8.6.1-src.tar.gz -C /usr/local/
cd /usr/local/tcl8.6.1/unix/
./configure
make
make install
下面進入redis目錄執行編譯redis need systemd-devel
make BUILD_WITH_SYSTEMD=yes USE_SYSTEMD=yes
make install
檢視redis版本
redis-cli --version
redis-server --version
進入redis609目錄拷貝配置檔案到7001、7002兩個資料夾下並進行檔案授權
修改配置檔案
port 7001
protected-mode no
daemonize no
supervised systemd
pidfile /usr/local/redis609/7001/redis_7001.pid
logfile "/usr/local/redis609/7001/7001.log"
dir /usr/local/redis609/7001/
appendonly yes
appendfilename "appendonly7001.aof"
cluster-enabled yes
cluster-config-file nodes-7001.conf
cluster-node-timeout 5000
配置引數說明:
- bind 繫結的主機地址
- port 指定Redis監聽埠,預設埠為6379
- logfile 日誌記錄方式,預設為標準輸出
- dir 本地資料庫儲存路徑
- cluster-enabled yes 開啟叢集功能,否則節點是一個普通的單一redis例項
- cluster-config-file nodes.conf 叢集自動生成的配置檔案,儲存叢集資訊
- cluster-node-timeout 15000 叢集中節點能夠失聯的最大時間
- appendonly yes 持久化記錄伺服器執行的所有寫操作命令
7002例項按照7001在操作一遍即可
使用Systemd管理Redis服務
建立服務啟動檔案,其中%i為佔位符變數,redis@7001.service中@符號後的7001引數會替換該變數:
cat > /etc/systemd/system/redis@.service << EOF
[Unit]
Description=Redis persistent key-value database
After=network.target
[Service]
User=redis
Group=redis
Type=notify
ExecStart=/usr/local/bin/redis-server /usr/local/redis609/%i/redis%i.conf --daemonize no --supervised systemd
ExecStop=/usr/local/bin/redis-cli -p %i shutdown
LimitNOFILE=10240
TimeoutStartSec=90s
TimeoutStopSec=90s
Restart=always
[Install]
WantedBy=multi-user.target
EOF
所有節點啟動redis例項,並設為開機啟動
systemctl daemon-reload #後期有修改serverice 之後一定要執行這句話
systemctl enable --now redis@{7001,7002}.service
執行啟動服務之後有可能會卡頓,,遇到卡頓不要怕直接Ctrl+C退出使用netstat檢視一下服務埠是否已啟動監聽
netstat -lnp|grep redis
埠已正常啟動說明配置成功
例項狀態維護
#檢視例項執行狀態
systemctl status redis@7001.service
systemctl status redis@7002.service
#啟動例項
systemctl start redis@7001.service
systemctl start redis@7002.service
#停止例項
systemctl stop redis@7001.service
systemctl stop redis@7002.service
#重啟例項
systemctl restart redis@7001.service
systemctl restart redis@7002.service
以上操作在三臺伺服器都執行一遍。
例項全部啟動後 ,在任意伺服器上建立redis叢集
redis-cli --cluster create 192.168.200.11:7001 192.168.200.11:7002 192.168.200.12:7001 192.168.200.12:7002 192.168.200.13:7001 192.168.200.13:7002 --cluster-replicas 1
有以下提示表示已部署成功
檢視叢集節點
redis-cli -c -h 192.168.200.13 -p 7001 cluster nodes