TiDB叢集安裝

hiekay發表於2018-12-17

安裝 TiDB

TiDB 需要安裝 TiKV,RocksDB, PD等軟體。

環境

Ubuntu 14.04.4 (64bit)

編譯二進位制檔案

二進位制程式如tidb-servertikv-serverpd-server都可以在一臺主機上編譯後分發到其它主機上去,只要保持主機環境基本一致即可。

RocksDB是編譯成動態庫檔案,在不同主機上共享比較麻煩(甚至無法共享?),所以建議每臺放置TiKV元件的主機上都進行一次編譯。

注:本次部署是在一臺跳板機上進行所有二進位制檔案的編譯。

編譯PD

1)安裝Golang

wget https://storage.googleapis.com/golang/go1.6.3.linux-amd64.tar.gz
tar -C /usr/local -xzf go1.6.3.linux-amd64.tar.gz

2)編譯PD

git clone https://github.com/pingcap/pd
cd pd
make build

安裝RocksDB

apt-get update
apt-get install libgflags-dev libsnappy-dev zlib1g-dev libbz2-dev liblz4-dev -y
wget https://github.com/facebook/rocksdb/archive/v4.8.tar.gz
tar xzvf v4.8.tar.gz 
cd rocksdb-4.8
make shared_lib -j4
cp librocksdb.so.4.8.0 /usr/local/lib
ln -fs /usr/local/lib/librocksdb.so.4.8.0 /usr/local/lib/librocksdb.so
ln -fs /usr/local/lib/librocksdb.so.4.8.0 /usr/local/lib/librocksdb.so.4
ln -fs /usr/local/lib/librocksdb.so.4.8.0 /usr/local/lib/librocksdb.so.4.8
ldconfig

編譯TiKV

1)安裝rust

curl -sSf https://static.rust-lang.org/rustup.sh | sh -s -- --channel=nightly

2)編譯TiKV

git clone https://github.com/pingcap/tikv
cd tikv
make release

# 在TiKV執行主機上
cp target/release/tikv-server /usr/local/bin/

編譯TiDB

1)安裝Golang

wget https://storage.googleapis.com/golang/go1.6.3.linux-amd64.tar.gz
tar -C /usr/local -xzf go1.6.3.linux-amd64.tar.gz

2)編譯TiDB

git clone https://github.com/pingcap/tidb.git $GOPATH/src/github.com/pingcap/tidb
cd $GOPATH/src/github.com/pingcap/tidb
make server

# 在TiDB執行主機上
cp $GOPATH/bin/tidb-server /usr/local/bin
    • *

執行TiDB

執行TiDB需要依次執行:pd, tikv, tidb

架構分佈

TiDB: 192.168.100.3, 192.168.100.4, 192.168.100.5 PD: 192.168.100.6, 192.168.100.7, 192.168.100.8 TiKV: 192.168.100.9, 192.168.100.10, 192.168.100.11

主機列表圖

執行pd

注意 需要在很短時間將幾個pd-server同時執行起來,否則會造成找不到的狀況,然後一個一個出錯退出。

  1. pd1(在192.168.100.6這臺主機上執行)
pd-server --cluster-id=1 
      --addr="192.168.100.6:1234" 
      --advertise-addr="192.168.100.6:1234" 
      --http-addr="192.168.100.6:9090" 
      --etcd-name=pd1 
      --etcd-advertise-client-url="http://192.168.100.6:2379" 
      --etcd-advertise-peer-url="http://192.168.100.6:2380" 
      --etcd-initial-cluster="pd1=http://192.168.100.6:2380,pd2=http://192.168.100.7:2380,pd3=http://192.168.100.8:2380" 
      --etcd-listen-peer-url="http://192.168.100.6:2380" 
      --etcd-listen-client-url="http://192.168.100.6:2379" 
  1. pd2(在192.168.100.7這臺主機上執行)
pd-server --cluster-id=1 
      --addr="192.168.100.7:1234" 
      --advertise-addr="192.168.100.7:1234" 
      --http-addr="192.168.100.7:9090" 
      --etcd-name=pd2 
      --etcd-advertise-client-url="http://192.168.100.7:2379" 
      --etcd-advertise-peer-url="http://192.168.100.7:2380" 
      --etcd-initial-cluster="pd1=http://192.168.100.6:2380,pd2=http://192.168.100.7:2380,pd3=http://192.168.100.8:2380" 
      --etcd-listen-peer-url="http://192.168.100.7:2380" 
      --etcd-listen-client-url="http://192.168.100.7:2379" 
  1. pd3(在192.168.100.8這臺主機上執行)
pd-server --cluster-id=1 
      --addr="192.168.100.8:1234" 
      --advertise-addr="192.168.100.8:1234" 
      --http-addr="192.168.100.8:9090" 
      --etcd-name=pd3 
      --etcd-advertise-client-url="http://192.168.100.8:2379" 
      --etcd-advertise-peer-url="http://192.168.100.8:2380" 
      --etcd-initial-cluster="pd1=http://192.168.100.6:2380,pd2=http://192.168.100.7:2380,pd3=http://192.168.100.8:2380" 
      --etcd-listen-peer-url="http://192.168.100.8:2380" 
      --etcd-listen-client-url="http://192.168.100.8:2379" 

執行TiKV

由於TiKV依賴於RocksDB,所以需要先安裝RocksDB。

注意 TiKV二進位制檔案tikv-server可以在一臺主機上編譯了放到其它主機上執行,但是RocksDB好像不可以。 所以每一臺主機上都需要進行一次RocksDB的安裝。

1)安裝RocksDB 在 192.168.100.9, 192.168.100.10, 192.168.100.11 這三臺主機上,分別進行RocksDB的安裝。 2)將編譯過後的tikv-server檔案分發到上面三臺主機上,放到系統PATH目錄中。 3)執行TiKV

# 在192.168.100.9這臺主機上執行
tikv-server -S raftkv --addr 192.168.100.9:5050 --etcd 192.168.100.6:2379,192.168.100.7:2379,192.168.100.8:2379 -s /data --cluster-id 1

# 在192.168.100.10這臺主機上執行
tikv-server -S raftkv --addr 192.168.100.10:5050 --etcd 192.168.100.6:2379,192.168.100.7:2379,192.168.100.8:2379 -s /data --cluster-id 1

# 在192.168.100.11這臺主機上執行
tikv-server -S raftkv --addr 192.168.100.11:5050 --etcd 192.168.100.6:2379,192.168.100.7:2379,192.168.100.8:2379 -s /data --cluster-id 1

執行TiDB

tidb-server分發到192.168.100.3, 192.168.100.4, 192.168.100.5這三臺主機上去,放置於類似/usr/local/bin目錄中。

在這三臺主機上都執行如下命令:

tidb-server --store=tikv --path="192.168.100.6:2379,192.168.100.7:2379,192.168.100.8:2379/pd?cluster=1" -lease 1 -P 3306

反向代理

三臺TiDB同時執行,三者互不干涉,需要一個反向代理來進行負載均衡與流量分發。這裡使用的是Nginx 1.10.1來進行TCP反向代理。

    • *

效果

在任意一臺機器上,使用MySQL客戶端,訪問叢集,效果如下所示。 最終效果圖

後記

折騰了大半天,終於跑了起來。測試後續補充。

相對於CockroachDB的開箱即用,TiDB的部署還是相對麻煩一些。不過,總體來說,還是比較簡單的,只是官方文件現在(2016/07/26)也不齊全,而且僅有單機模式的部署說明。


相關文章