清除過期日誌的py指令碼
本篇和大家分享的是一個清除過期日誌的python指令碼,年後第二篇希望對大家有幫助;
- 該python指令碼建立的由來
- 程式碼及分析
- crontab定時任務
該python指令碼建立的由來
此由來,是在過年假期時突然被反饋告警伺服器磁碟空間佔用比例增大,當時通過df等命令定位到,是使用了某個開源任務排程框架日誌增大並之前很多歷史日誌沒有自動刪除導致的;
因此,檢視該框架的文件是否有自動清除配置,暫時沒有找到自動清除日誌的配置說明,於是乎瀏覽原始碼就是log4來記錄的,本來打算擴充套件重寫下log4讓其具有自動清除日誌的功能,但是想到以後可能還有其他專案的日誌無法自動清除,於是乎有了本篇分享的python產出,僅僅配置下檢測路徑即可刪除自定義n天之前的日誌
程式碼及分析
先來上程式碼,具體如下:
#! /usr/bin/python
#coding=utf-8
import os
import datetime
import time
class DoFile():
# 獲取某個磁碟路徑裡所有檔案
def getFiles(self, strDir, isLoop, overDay):
files = []
if len(strDir) <= 0 or not os.path.exists(strDir):
return files
dirs = os.listdir(strDir)
for dir in dirs:
path = os.path.join(strDir, dir)
if(os.path.isfile(path) and path.find(".log") >= 0): # 是.log檔案
if(self.compareFileTime(path, -overDay)):
files.append(path)
elif(os.path.isdir(path) and isLoop): # 是磁碟
files.extend(self.getFiles(path, isLoop, overDay))
else:
continue
return files
# 綜合處理磁碟檔案
def doFiles(self, clearDirs, isLoop=False, overDay=3):
print(datetime.datetime.now().strftime("%Y-%m-%d %H:%M")+":執行中...")
for dir in clearDirs:
files = self.getFiles(dir, isLoop, overDay)
print("{}查詢出{}個檔案".format(dir, len(files)))
self.clearFiles(files)
print("執行完畢...")
# 清除文字檔案
def clearFiles(self, files):
for file in files:
strcmd = "rm -rf {}".format(file)
self.exec_cmd(strcmd)
#執行指令碼命令
def exec_cmd(self, strcmd):
os.system(strcmd)
#獲取檔案建立時間
def getCreateFileTime(self, path):
return os.path.getctime(path)
#時間戳轉datetime
def TimeStampToTime(self,timestamp):
return datetime.datetime.utcfromtimestamp(timestamp)
#比較當前時間與檔案建立時間差值(天)
def compareFileTime(self, path,overDay):
comparTime = self.TimeStampToTime(self.getCreateFileTime(path))
now = datetime.datetime.utcnow() + datetime.timedelta(days= overDay)
return now > comparTime
# 要清除文字的磁碟 "D:/my_project/my_test/logs/mendian_platform/task/2018-09/26",
clearDirs = ["/data1/data/applogs/xxl-job-web"]
doFile = DoFile()
doFile.doFiles(clearDirs, True,3)
其邏輯可以分為下面幾步:
- 從doFiles進入,先去獲取配置的clearDirs陣列中的日誌所在磁碟路徑下面的日誌檔案
- 獲取待刪除的檔案,這些檔案以.log字尾結尾,並且通過時間限定策略【當前時間+(-n天) > 文字日誌建立時間】來識別哪些到期該刪除了
- 最後通過執行rm -rf命令直接刪除符合時間策略的日誌檔案
crontab定時任務
上面只有了清除日誌的py指令碼,但是要定時執行該指令碼才能到達自動的目的,不然每次都手動執行py指令碼和直接手動刪除日誌檔案沒上面太大的區別和省時間,因此這裡用到了crontab任務;編輯cron任務如下命令:
crontab -e
編輯cron任務,往裡面新增定時每週或者每天執行上面的python指令碼
0 0 */1 * * python /abc/python/clearDirLog.py > /abc/python/dolog.log 2>&1
上面cron表示式意思:定時每天執行一次clearDirLog.py指令碼,並把clearDirLog.py裡面列印出來的資訊記錄到dolog.log檔案中;
編輯任務儲存後,我們可以通過如下命令檢視cron的任務列表:
crontab -l
相關文章
- [20210623]完善清除aud指令碼.txt指令碼
- python 如何執行子層 py 指令碼Python指令碼
- 透過shell指令碼監控日誌切換頻率指令碼
- 已有 python 自動化框架,透過 start.py 執行指令碼,現在想建立一個平臺,透過頁面下發介面,傳入引數到 start.py 並啟動指令碼,求教Python框架指令碼
- 指令碼處理iOS的Crash日誌指令碼iOS
- 指令碼日誌的標準輸出指令碼
- oracle 資料庫徹底清除目錄指令碼Oracle資料庫指令碼
- 走近原始碼:Redis如何清除過期key原始碼Redis
- log4j2 自動刪除過期日誌檔案配置及實現原理解析
- 寫一個Python指令碼刪除一個.py檔案的所有註釋Python指令碼
- [20181225]如何清除註冊的線上日誌.txt
- sqlmap常用繞過指令碼SQL指令碼
- 指令碼執行 py 檔案,該如何調整瀏覽器大小?指令碼瀏覽器
- Linux-通用性日誌切割指令碼Linux指令碼
- 指令碼 - 透過 mac 反查 IP指令碼Mac
- 【SqlServer】清除過期資料的儲存過程SQLServer儲存過程
- 使用shell指令碼對Nginx日誌進行切分指令碼Nginx
- metaspolit下UAC提權以及日誌清除
- [20211105]索引分裂 塊清除 日誌增加.txt索引
- py編碼問題
- 服務日誌及控制代碼數採集推送指令碼指令碼
- 暑期日記(7)
- 暑期日記(6)
- 暑期日記(5)
- 小程式的wxs指令碼(類似過濾器)指令碼過濾器
- 在 Linux 上用 Bash 指令碼監控 messages 日誌Linux指令碼
- windows10系統如何清除事件日誌Windows事件
- 物化檢視日誌無法正常清除的解決方法
- 通過 Redis 定時執行指令碼Redis指令碼
- 使用sqlmap中tamper指令碼繞過wafSQL指令碼
- 通過shell指令碼防止埠掃描指令碼
- 透過Python指令碼理解系統程式Python指令碼
- 假期日曆外掛
- 從一個埋點日誌上報指令碼說起指令碼
- [20230510]測試使用tpt ddl指令碼是否產生日誌.txt指令碼
- linux中用shell指令碼對tomcat和nginx做日誌切割Linux指令碼TomcatNginx
- Python程式py程式碼加密方法Python加密
- oracle刪除超過N天資料指令碼的方法Oracle指令碼