zookeeper 清理snapshot及事務日誌
在使用zookeeper
過程中,我們知道,會有dataDir
和dataLogDir
兩個目錄,分別用於snapshot
和事務日誌的輸出(預設情況下只有dataDir
目錄,snapshot
和事務日誌都儲存在這個目錄中,關於這兩個目錄的詳細說明,請看《ZooKeeper
管理員指南》)。
第一種,也是運維人員最常用的,寫一個刪除日誌指令碼,每天定時執行即可:
#!/bin/bash
#snapshot file dir
dataDir=/user/upload/zookeeper/version-2
#tran log dir
dataLogDir=/user/upload/zookeeper/version-2
logDir=/home/nileader/taokeeper/logs
#Leave 60 files
count=60
count=$[$count+1]
ls -t $dataLogDir/log.* | tail -n +$count | xargs rm -f
ls -t $dataDir/snapshot.* | tail -n +$count | xargs rm -f
ls -t $logDir/zookeeper.log.* | tail -n +$count | xargs rm -f
以上這個指令碼定義了刪除對應兩個目錄中的檔案,保留最新的60
個檔案,可以將他寫到crontab
中,設定為每天凌晨2點執行一次就可以了。
crontab -e
2 2 * * * /bin/bash /root/clean_zook_log.sh > /dev/null 2>&1
第二種,使用ZK
的工具類PurgeTxnLog
,它的實現了一種簡單的歷史檔案清理策略,可以在這裡看一下他的使用方法:http://zookeeper.apache.org/doc/r3.4.3/api/index.html,可以指定要清理的目錄和需要保留的檔案數目,簡單使用如下:
java -cp zookeeper.jar:lib/slf4j-api-1.6.1.jar:lib/slf4j-log4j12-1.6.1.jar:lib/log4j-1.2.15.jar:conf org.apache.zookeeper.server.PurgeTxnLog <dataDir><snapDir> -n <count>
第三種,對於上面這個Java
類的執行,ZK
自己已經寫好了指令碼,在bin/zkCleanup.sh
中,所以直接使用這個指令碼也是可以執行清理工作的。
第四種,從3.4.0
開始,zookeeper
提供了自動清理snapshot
和事務日誌的功能,通過配置 autopurge.snapRetainCount
和 autopurge.purgeInterval
這兩個引數能夠實現定時清理了。這兩個引數都是在zoo.cfg
中配置的:
autopurge.purgeInterval
這個引數指定了清理頻率,單位是小時,需要填寫一個1
或更大的整數,預設是0
,表示不開啟自己清理功能。autopurge.snapRetainCount
這個引數和上面的引數搭配使用,這個引數指定了需要保留的檔案數目。預設是保留3
個。
通過配置 autopurge.snapRetainCount
和 autopurge.purgeInterval
這兩個引數能夠實現定時清理了。
這兩個引數都是在zoo.cfg
中配置的,將其前面的註釋去掉,根據需要修改日誌保留個數:
tickTime=2000
initLimit=10
syncLimit=5
dataDir=/usr/upload/zookeeper/version-2
dataLogDir=/usr/upload/zookeeper/logs
clientPort=2181
autopurge.snapRetainCount=20
autopurge.purgeInterval=48
server.1=u04rtv01.yaya.corp:2888:3888
server.2=u04rtv02.yaya.corp:2888:3888
server.3=u04rtv03.yaya.corp:2888:3888
server.4=u04rtv04.yaya.corp:2888:3888
server.5=u04rtv05.yaya.corp:2888:3888
此處我們的配置就是:保留48小時內的日誌,並且保留20個檔案
相關文章
- 視覺化zookeeper的事務日誌視覺化
- 【ZooKeeper Notes 9】ZooKeepr日誌清理
- MySQL 事務日誌MySql
- 預寫事務日誌
- Elasticsearch 的事務日誌Elasticsearch
- mysql清理日誌MySql
- 清理日誌 scripts
- 如何清理日誌
- 日誌傳送事務日誌備份設定
- Zookeeper原始碼分析(二) —– zookeeper日誌原始碼
- Zookeeper原始碼分析(二) ----- zookeeper日誌原始碼
- Docker容器日誌清理Docker
- 11.日誌和事務@Transactional
- SQL Server 事務日誌傳輸SQLServer
- SQL Server事務日誌介紹SQLServer
- 終止oracle日誌分析事務Oracle
- MySQL-14.MySQL事務日誌MySql
- PostgreSQL的xlog/Wal歸檔及日誌清理SQL
- AUDIT_TRAIL設定及審計日誌清理AI
- mysql之 日誌體系(錯誤日誌、查詢日誌、二進位制日誌、事務日誌、中繼日誌)MySql中繼
- 淺談SQL Server中的事務日誌(一)----事務日誌的物理和邏輯構架SQLServer
- docker 容器日誌清理方案Docker
- oracle 審計日誌清理Oracle
- oracle清理監聽日誌Oracle
- PeopleSoft日誌檔案清理
- rman清理歸檔日誌
- Oracle歸檔日誌清理Oracle
- SQL0946N錯誤及DB2事務日誌SQLDB2
- Mysql 事務日誌(Ib_logfile)MySql
- 恢復模式與事務日誌管理模式
- 關於日誌事務的問題
- SQL 事務日誌填滿的原因SQL
- MS SQL Server 事務日誌介紹SQLServer
- 《MySQL 進階篇》十九:事務日誌MySql
- mysql binlog日誌自動清理及手動刪除MySql
- redis 事務,持久化,日誌,主從,VMRedis持久化
- SQL Server 收縮事務日誌的方法SQLServer
- 清除 SQL SERVER 2005 事務日誌SQLServer