【otter】otter安裝
基本架構
ip以及安裝的軟體
-----前三部做完後就可以去manage頁面新增node了,新增node後每個node生成一個id 需要寫入node的配置檔案
參考:
後續:
在三臺主機的規劃上做了一些改動:
zookeeper叢集的搭建
工具附網盤連線:
以上只是一個簡單的安裝步驟,詳細可參考:
http://blog.sina.com.cn/s/articlelist_1869333262_0_1.html
1.規劃
因為主機有限只有三臺機器,現在做出如下規劃ip以及安裝的軟體
7.111 | 7.112 | 7.113 |
Mysql 源庫 | mysql 目標庫 | zookeeper |
node | node | manager + mysql(存otter配置資訊) |
2. 安裝zookeeper
-
參考博文:http://blog.sina.com.cn/s/blog_6f6bc30e0101pb13.html
-
-
編譯安裝:
-
# 解壓縮
-
tar zxvf zookeeper-3.4.5-cdh4.3.0.tar.gz && mv zookeeper-3.4.5-cdh4.3.0 /data/app/zookeeper
-
cd !$
-
mv conf/zoo_sample.cfg conf/zoo.cfg
-
-
修改conf/zoo.cfg配置檔案:
-
dataDir=/data/app/zookeeper/data
-
autopurge.purgeInterval=1
-
-
修改bin/zkEnv.sh指令碼:
-
將ZOO_LOG_DIR="."修改為ZOO_LOG_DIR="/data/app/zookeeper/data"
-
將ZOO_LOG4J_PROP=”INFO,CONSOLE”修改為ZOO_LOG4J_PROP="INFO,ROLLINGFILE"
-
-
修改bin/zkServer.sh指令碼:
-
將ZOOBIN="${BASH_SOURCE-$0}"修改為ZOOBIN=`readlink -f "${BASH_SOURCE-$0}"`
-
增加一行環境變數SERVER_JVMFLAGS="-Xms4096m -Xmx4096m",設定程式記憶體
-
-
修改bin/zkCli.sh指令碼:
-
將ZOOBIN="${BASH_SOURCE-$0}"修改為ZOOBIN=`readlink -f "${BASH_SOURCE-$0}"`
-
-
建立軟連線到PATH:
-
ln -s /data/app/zookeeper/bin/zkServer.sh /usr/local/bin/zk-server
-
ln -s /data/app/zookeeper/bin/zkCli.sh /usr/local/bin/zk-cli
-
mkdir data
-
echo 1 > data/myid 將本節點id設定到data/myid檔案中
-
服務啟動、重啟及關閉:
-
啟動:zk-server start
- 關閉:zk-server stop
3 安裝manage
-
安裝manager
-
manager的資料也儲存在Mysql中,我直接單獨裝個新庫。
-
建立目錄:mkdir manager
-
進入目錄:cd manager
-
下載:wget https://github.com/alibaba/otter/releases/download/otter-x.y.z/manager.deployer-x.y.z.tar.gz
-
解壓縮:tar zxvf manager.deployer-$version.tar.gz
-
-
安裝manager的資料庫:
-
下載初始化sql:wget https://raw.github.com/alibaba/otter/master/manager /deployer/src/main/resources/sql/otter-manager-schema.sql
-
進入Mysql中執行:mysql> source /usr/local/otter-manager-schema.sql
-
-
修改manager的配置檔案:vi conf/otter.properties
-
## otter manager domain name
-
otter.domainName =10.32.7.113 ##本地的域名
-
## otter manager http port
-
otter.port = 8080 ##對外訪問的埠號,web
-
## jetty web config xml
-
otter.jetty = jetty.xml
-
## otter manager database config
-
otter.database.driver.class.name = com.mysql.jdbc.Driver
-
otter.database.driver.url = jdbc:mysql://10.32.7.113:3306/otter ##otter資料庫的配置
-
otter.database.driver.username = canal ##otter資料的賬號
-
otter.database.driver.password = canal ##otter資料的密碼
-
## otter communication port
-
otter.communication.manager.port = 1099 ##對應Node中的配置
-
## otter communication pool size
-
otter.communication.pool.size = 10
-
## default zookeeper address
- otter.zookeeper.cluster.default = 10.32.7.113:2181##zookeeper的地址,2181zk的埠
參考:
4 安裝node
-
node 需要aria2支援,我是在AB機房各安裝了一套。
-
-
安裝node:
-
建立目錄:mkdir node
-
進入目錄:cd node
-
下載node:
-
解壓縮:tar zxvf node.deployer-$version.tar.gz
-
修改node的配置:
-
vi conf/otter.properties
-
otter.manager.address =10.32.7.113:1099
-
##對應manager中otter.properties的配置 otter.communication.manager.port
-
-
node的啟動/停止:
-
cd bin
-
startup.sh/stop.sh
-
-
安裝aria2:
-
下載aria2:
-
解壓縮:tar zxvf aria2-$version.tar.gz
-
為了方便切換目錄:mv aria2-$version aria2
-
進入目錄: cd aria2
-
編譯:
-
./configure
-
Make
-
Make install
-
把aria2安裝後的bin目錄下的執行檔案新增到環境變數path中
- ( 我本地安裝的目錄是/usr/local/aria2,安裝後 ,bin目錄在/usr/local/bin/)
關於頁面各部分的理解:
- 1.主備關係 配置源庫的主從,防止主庫down了,資料來源沒了
-
2.canal 寫上主從兩個源,
每一個canal對應一個資料庫資訊,canal從配置的資料庫中,拉取bin-log資訊。
配置管理--canal配置
點選‘新增’配置如下圖:
位點自定義配置方法如下:
{"journalName":"mysql-bin.000061","timestamp":1414748562000};
journalName為:bin_log日誌,timestamp為同步起始時間的毫秒錶示;
說明:第一次配置時不需要配置該項,如果在使用一段時候後要配置,
則過程如下:設定canal位點資訊-停止所有Channel-刪除所有對映關係列表中的同步進度中的position 狀態-開啟Channel
- 3 資料來源配置:配置源庫目標庫
- 4 資料表配置:配置源表目標表
- 5 channel-》peipel(選擇相應的canal)-》(選擇源表同步到對應的目標表)
可以多配置幾個node(最好都用單獨的主機),抽資料時多選幾個做負載均衡
後續:
在三臺主機的規劃上做了一些改動:
zookeeper叢集的搭建
7.111 | 7.112 | 7.113 |
Mysql 源庫 | mysql 目標庫 | mysql(otter配置資訊庫) |
node+zookeeper | node+zookeeper | node+zookeeper+manager |
工具附網盤連線:
以上只是一個簡單的安裝步驟,詳細可參考:
http://blog.sina.com.cn/s/articlelist_1869333262_0_1.html
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/29096438/viewspace-2142554/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 安裝和使用 otter (資料同步利器)
- 利用otter對敏感資料加密加密
- 資料庫同步利器 otter 雙A同步配置資料庫
- 利用otter做mysql資料實時脫敏MySql
- 部署otter實現mysql主備資料同步(上)MySql
- 部署otter實現mysql主備資料同步(下)MySql
- codis安裝 (java 安裝 + zookeeper 安裝 + go 安裝 + codis 安裝JavaGo
- 安裝npm 解除安裝npm 安裝apidocNPMAPI
- mysql安裝 (yum 安裝)MySql
- MMM安裝、MHA安裝
- mysql安裝------RPM包安裝及解除安裝MySql
- oracle安裝:OUI安裝Oracle(圖形介面安裝)OracleUI
- ffmpeg安裝之mac安裝Mac
- docker安裝及解除安裝Docker
- 02 安裝git、安裝TortoiseGitGit
- Ubuntu解除安裝和安裝Ubuntu
- Orace RAC安裝-DNS安裝DNS
- caffe安裝系列——安裝OpenCVOpenCV
- SPARK 安裝之scala 安裝Spark
- mac 安裝opencv homebrew安裝MacOpenCV
- Oracle 安裝與解除安裝Oracle
- solaris mysql 安裝 解除安裝MySql
- BiocManager安裝,devtools安裝dev
- JDK安裝和解除安裝JDK
- 安裝HomeBrew提示已安裝並無法解除安裝
- SQL Server 2012 安裝——安裝 OR 解除安裝SQLServer
- win10安裝版怎麼安裝_安裝版win10安裝教程Win10
- mysql安裝-----二進位制包安裝及解除安裝MySql
- cocoapods安裝/解除安裝/使用
- Mac Redis安裝與解除安裝MacRedis
- [ 安裝 ] Zeppelin安裝步驟!
- Ubuntu安裝和解除安裝mongodbUbuntuMongoDB
- linux 安裝yum 安裝phpLinuxPHP
- [雲原生]Docker - 安裝&解除安裝Docker
- JDK的安裝與解除安裝JDK
- selenium 安裝與 chromedriver安裝Chrome
- ORACLE TEXT安裝與解除安裝Oracle
- Centos 安裝yum,安裝ansibleCentOS