DBA 分析利器 LogMiner
LogMiner
一、LogMiner的用途
日誌檔案中存放著所有進行資料庫恢復的資料,記錄了針對資料庫結構的每一個變化,也就是對資料庫操作的所有DML語句。
在Oracle 8i之前,Oracle沒有提供任何協助資料庫管理員來讀取和解釋重作日誌檔案內容的工具。系統出現問題,對於一個普通的資料管理員來講,唯一可以作的工作就是將所有的log檔案打包,然後發給Oracle公司的技術支援,然後靜靜地等待Oracle 公司技術支援給我們最後的答案。然而從8i以後,Oracle提供了這樣一個強有力的工具-LogMiner。
LogMiner 工具即可以用來分析線上,也可以用來分析離線日誌檔案,即可以分析本身自己資料庫的重作日誌檔案,也可以用來分析其他資料庫的重作日誌檔案。
總的說來,LogMiner工具的主要用途有:
1. 跟蹤資料庫的變化:可以離線的跟蹤資料庫的變化,而不會影響線上系統的效能。
2. 回退資料庫的變化:回退特定的變化資料,減少point-in-time recovery的執行。
3. 最佳化和擴容計劃:可透過分析日誌檔案中的資料以分析資料增長模式。
二、安裝LogMiner
要安裝LogMiner工具,必須首先要執行下面這樣兩個指令碼,
1.$ORACLE_HOME/rdbms/admin/dbmslm.sql
2.$ORACLE_HOME/rdbms/admin/dbmslmd.sql.
這兩個指令碼必須均以SYS使用者身份執行。其中第一個指令碼用來建立DBMS_LOGMNR包,該包用來分析日誌檔案。第二個指令碼用來建立DBMS_LOGMNR_D包,該包用來建立資料字典檔案。
三、使用LogMiner工具
3.1 介紹
型別 |
過程名 |
用途 |
過程 |
Dbms_logmnr_d.build |
建立一個資料字典檔案 |
過程 |
Dbms_logmnr.add_logfile |
在類表中增加日誌檔案以供分析 |
過程 |
Dbms_logmnr.start_logmnr |
使用一個可選的字典檔案和前面確定要分析日誌檔案來啟動LogMiner |
過程 |
Dbms_logmnr.end_logmnr |
停止LogMiner分析 |
檢視 |
V$logmnr_dictionary |
顯示用來決定物件ID名稱的字典檔案的資訊 |
檢視 |
V$logmnr_logs |
在LogMiner啟動時顯示分析的日誌列表 |
檢視 |
V$logmnr_contents |
LogMiner啟動後,可以使用該檢視在SQL提示符下輸入SQL語句來查詢重做日誌的內容 |
LogMiner工具實際上是由兩個新的PL/SQL內建包(DBMS_LOGMNR 和 DBMS_ LOGMNR_D)和四個V$動態效能檢視(檢視是在利用過程DBMS_LOGMNR.START_LOGMNR啟動LogMiner時建立,即:v$logmnr_dictionary、v$logmnr_parameters、v$logmnr_logs、v$logmnr_contents
)組成。在使用LogMiner工具分析redo log檔案之前,可以使用DBMS_LOGMNR_D 包將資料字典匯出為一個文字檔案。該字典檔案是可選的,但是如果沒有它,LogMiner解釋出來的語句中關於資料字典中的部分(如表名、列名等)和數值都將是16進位制的形式,我們是無法直接理解的。
LogMiner包含兩個PL/SQL包和幾個檢視:
1.dbms_logmnr_d包,這個包只包括一個用於提取資料字典資訊的過程,即dbms_logmnr_d.build()過程。
2.dbms_logmnr包,它有三個過程:
l add_logfile(name varchar2, options number) - 用來新增/刪除用於分析的日誌檔案;
l start_logmnr(start_scn number, end_scn number, start_time number,end_time number, dictfilename varchar2, options number) - 用來開啟日誌分析,同時確定分析的時間/SCN視窗以及確認是否使用提取出來的資料字典資訊。
l end_logmnr() - 用來終止分析會話,它將回收LogMiner所佔用的記憶體。
與LogMiner相關的資料字典。
1、v$logmnr_dictionary,LogMiner可能使用的資料字典資訊,因logmnr可以有 多個字典檔案,該檢視用於顯示這方面資訊。
2、v$logmnr_parameters,當前LogMiner所設定的引數資訊。
3、v$logmnr_logs,當前用於分析的日誌列表。
4、v$logmnr_contents,日誌分析結果。
3.2 9i的日誌分析過程
3.2.1確認設定了初始化引數:UTL_FILE_DIR
SQL> show parameter utl; NAME TYPE VALUE ------------------------------------ ----------- ------------------------------ utl_file_dir string /dataoracle/oracle/logminer
|
可以看到該引數的當前設定。如果沒有值,必須修改資料庫的initsid.ora檔案,或者使用如下命令:
SQL> alter system set utl_file_dir='/dataoracle/oracle/logminer' scope=spifle; |
重新啟動資料庫,使新加的引數生效
建立字典檔案的語句:
SQL>exec sys.dbms_logmnr_d.build(dictionary_filename=>'dictionary.ora', dictionary_location =>'/dataoracle/oracle/logminer '); |
其中,dictionary.ora是給字典檔案起的檔名(可任意)。
整個建立過程,可能需要十幾分鍾到一個小時,視該資料庫的object 個數以及繁忙程度而定。完成後,會在/dataoracle/oracle/logminer目錄下看到一個名為dictionary.ora的檔案。
3.2.2建立要分析的日誌檔案列表
Oracle的重作日誌分為兩種,線上(online)和離線(offline)歸檔日誌檔案,加入分析日誌檔案使用dbms_logmnr.add_logfile過程,第一個檔案使用dbms_logmnr.NEW引數,後面檔案使用dbms_logmnr.ADDFILE引數。下面就分別來討論這兩種不同日誌檔案的列表建立。日誌檔案和歸檔日誌檔案的數量是非常多的。因此事實上不可能把所有的日誌檔案都分析一遍(你要做也行,不過要保證有足夠的空間和時間,並且不怕影響資料庫效能),通常選取你感興趣的時間段內的日誌進行分析。
1、分析線上重作日誌檔案
A. 建立列表
SQL> EXECUTE dbms_logmnr.add_logfile( LogFileName=>' /oracle/app/oradata/ora9i/redo01.log', Options=>dbms_logmnr.new); |
B. 新增其他日誌檔案到列表
SQL> EXECUTE dbms_logmnr.add_logfile( LogFileName=>' /oracle/app/oradata/ora9i/redo02.log', Options=>dbms_logmnr.addfile); |
2、分析離線日誌檔案
A.建立列表
SQL> EXECUTE dbms_logmnr.add_logfile( LogFileName=>' /dataoracle/oracle/archivedata/1_3938.dbf', Options=>dbms_logmnr.new); |
B.新增另外的日誌檔案到列表
SQL> EXECUTE dbms_logmnr.add_logfile( LogFileName=>'/dataoracle/oracle/archivedata/1_3939.dbf’, Options=>dbms_logmnr.addfile); |
關於這個日誌檔案列表中需要分析日誌檔案的個數完全由你自己決定,但這裡建議最好是每次只新增一個需要分析的日誌檔案,在對該檔案分析完畢後,再新增另外的檔案。
和新增日誌分析列表相對應,使用過程 'dbms_logmnr.removefile' 也可以從列表中移去一個日誌檔案。下面的例子移去上面新增的日誌檔案/oracle/app/oradata/ora9i/redo02.log
SQL> EXECUTE dbms_logmnr.add_logfile( LogFileName=>' /oracle/app/oradata/ora9i/redo02.log ', Options=>dbms_logmnr. REMOVEFILE); |
如此反覆操作,可以把所有要分析的檔案都選取進去。建立了要分析的日誌檔案列表,下面就可以對其進行分析了。
3.3使用LogMiner進行日誌分析
3.3.1無限制條件
SQL> EXECUTE dbms_logmnr.start_logmnr( DictFileName=>' /dataoracle/oracle/logminer/dictionary.ora'); |
注意,這裡的dictionary.ora就是前面建立的字典檔名。
分析過程根據所選取檔案的資料量,可能需要幾個小時。有時候,DBA可能並不需要這些日誌檔案中所有的資料,那麼能否只分析部分資料呢?
3.3.2有限制條件
透過對過程DBMS_ LOGMNR.START_LOGMNR中幾個不同引數的設定(引數含義見表1),可以縮小要分析日誌檔案的範圍。透過設定起始時間和終止時間引數我們可以限制只分析某一時間範圍的日誌。如下面的例子,我們僅僅分析2005年1月11日的日誌:
SQL> EXECUTE dbms_logmnr.start_logmnr(DictFileName => 'c:\dictionary.ora',StartTime => to_date('2014-4-14 16:00:00','YYYY-MM-DD HH24:MI:SS'),EndTime => to_date('2014-4-14 16:20:00','YYYY-MM-DD HH24:MI:SS'));
|
也可以透過設定起始SCN和截至SCN來限制要分析日誌的範圍:
SQL> EXECUTE dbms_logmnr.start_logmnr( DictFileName => '/dataoracle/oracle/logminer/dictionary.ora ', StartScn => 20,EndScn => 50); |
分析結束後,所分析到的資料可以從一個名為 V$LOGMNR_CONTENTS的檢視中查詢到。我們就可以應用這個檢視中的內容來達成目的。
表1 DBMS_LOGMNR.START__LOGMNR過程引數含義
引數 |
引數型別 |
預設值 |
含義 |
StartScn |
數字型(Number) |
0 |
分析重作日誌中SCN≥StartScn日誌檔案部分 |
EndScn |
數字型(Number) |
0 |
分析重作日誌中SCN≤EndScn日誌檔案部分 |
StartTime |
日期型(Date) |
1998-01-01 |
分析重作日誌中時間戳≥StartTime的日誌檔案部分 |
EndTime |
日期型(Date) |
2988-01-01 |
分析重作日誌中時間戳≤EndTime的日誌檔案部分 |
DictFileName |
字元型(VARCHAR2) |
|
字典檔案,該檔案包含一個資料庫目錄的快照。使用該檔案可以使得到的分析結果是可以理解的文字形式,而非系統內部的16進位制 |
Options |
BINARY_INTEGER |
0 |
系統除錯引數,實際很少使用 |
3.4觀察分析結果(v$logmnr_contents)
到現在為止,我們已經分析得到了重作日誌檔案中的內容。動態效能檢視v$logmnr_contents包含LogMiner分析得到的所有的資訊。
SELECT sql_redo FROM v$logmnr_contents;
如果我們僅僅想知道某個使用者對於某張表的操作,可以透過下面的SQL查詢得到,該查詢可以得到使用者jdls對錶所作的一切工作。
SQL> SELECT sql_redo FROM v$logmnr_contents WHERE username='jdls' ; |
SQL_REDO 列顯示的是所做的操作(SQL 語句),SQL_UNDO 列顯示的是要恢復該操作所需要的SQL語句,只要順序執行SQL_UNDO的內容,就可以恢復到修改前的資料。
使用這個方法恢復資料,好處在於不會有資料損失。否則只能做 incomplete recovery。
由於所有應用中,其實都是利用v$logmnr_contents這個檢視,因此在此介紹一下該檢視中特別有用的幾個欄位:
Seg_name: 表名;
Scn: SCN 號碼
Sql_redo: 所作的sql 語句
Sql_undo: 對應sql_redo, 恢復用的sql 語句
Timestamp: sql 發出的具體時間
Operation: sql 的型別,分為INSERT, UPDATE, START(set …), COMMIT(commit), INTERNAL等
Session#: 發出該操作的 session
需要強調一點的是,檢視v$logmnr_contents中的分析結果僅在我們執行過程'dbms_logmrn.start_logmnr'這個會話的生命期中存在。這是因為所有的LogMiner儲存都在PGA記憶體中,所有其他的程式是看不到它的,同時隨著程式的結束,分析結果也隨之消失。
最後,使用過程DBMS_LOGMNR.END_LOGMNR終止日誌分析事務,此時PGA記憶體區域被清除,分析結果也隨之不再存在。
四、其他注意事項
我們可以利用LogMiner日誌分析工具來分析其他資料庫例項產生的重作日誌檔案,而不僅僅用來分析本身安裝LogMiner的資料庫例項的redo logs檔案。使用LogMiner分析其他資料庫例項時,有幾點需要注意:
1. LogMiner必須使用被分析資料庫例項產生的字典檔案,而不是安裝LogMiner的資料庫產生的字典檔案,另外必須保證安裝LogMiner資料庫的字符集和被分析資料庫的字符集相同。
2. 被分析資料庫平臺必須和當前LogMiner所在資料庫平臺一樣,也就是說如果我們要分析的檔案是由執行在UNIX平臺上的Oracle 8i產生的,那麼也必須在一個執行在UNIX平臺上的Oracle例項上執行LogMiner,而不能在其他如Microsoft NT上執行LogMiner。當然兩者的硬體條件不一定要求完全一樣。
3. LogMiner日誌分析工具僅能夠分析Oracle 8以後的產品,對於8以前的產品,該工具也無能為力。
五、結語
LogMiner對於資料庫管理員(DBA)來講是個功能非常強大的工具,也是在日常工作中經常要用到的一個工具,藉助於該工具,可以得到大量的關於資料庫活動的資訊。其中一個最重要的用途就是不用全部恢復資料庫就可以恢復資料庫的某個變化。另外,該工具還可用來監視或者審計使用者的活動,如你可以利用LogMiner工具察看誰曾經修改了那些資料以及這些資料在修改前的狀態。我們也可以藉助於該工具分析任何Oracle 8及其以後版本產生的重作日誌檔案。另外該工具還有一個非常重要的特點就是可以分析其他資料庫的日誌檔案。總之,該工具對於資料庫管理員來講,是一個非常有效的工具,深刻理解及熟練掌握該工具,對於每一個資料庫管理員的實際工作是非常有幫助的。
六、舉例
ALTER SYSTEM SET UTL_FILE_DIR = 'd:\' SCOPE=SPFILE 更改系統引數字典路徑
exec sys.dbms_logmnr_d.build(dictionary_filename=>'dictionary.ora', dictionary_location =>'d:\'); 生成字典檔案
EXECUTE dbms_logmnr.add_logfile(LogFileName=>'D:\APP\ORADATA\CRDS3DB\REDO01.LOG',Options=>dbms_logmnr.new); 日誌
EXECUTE dbms_logmnr.add_logfile(LogFileName=>'D:\APP\ORADATA\CRDS3DB\REDO02.LOG',Options=>dbms_logmnr.addfile);
EXECUTE dbms_logmnr.add_logfile(LogFileName=>'d:\oradata\1_3939.dbf,Options=>dbms_logmnr.new);
EXECUTE dbms_logmnr.add_logfile(LogFileName=>'D:\APP\ORADATA\CRDS3DB\REDO01.LOG',Options=>dbms_logmnr. REMOVEFILE);
EXECUTE dbms_logmnr.start_logmnr(DictFileName=>'d:\dictionary.ora');
EXECUTE dbms_logmnr.start_logmnr(DictFileName => 'c:\dictionary.ora',StartTime => to_date('2014-4-14 16:00:00','YYYY-MM-DD HH24:MI:SS'),EndTime => to_date('2014-4-14 16:20:00','YYYY-MM-DD HH24:MI:SS')); 需要兩份歸檔
select log_id,filename,type from v$logmnr_logs;
select sql_redo,TIMESTAMP from v$logmnr_contents
select sql_redo,SQL_UNDO,OPERATION,USERNAME,START_TIMESTAMP,COMMIT_TIMESTAMP,OS_USERNAME from v$logmnr_contents;
exec dbms_logmnr.end_logmnr;
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/29065182/viewspace-1146789/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- LOGMINER日誌分析
- logminer 日誌分析案例
- 分析資料庫日誌(LogMiner)資料庫
- LogMiner日誌分析工具說明
- 使用logminer分析歸檔日誌案例
- 使用Logminer工具分析DML和DDL操作
- php效能分析利器:xhprofPHP
- logminer進行資料探勘分析測試
- Logminer簡單分析日誌的實驗
- 第10章:LogMiner之分析重做檔案
- oracle 9i logminer日誌分析01Oracle
- 日誌分析logmnr (Logminer) 使用方法
- oracle logminer分析線上 離線日誌方法Oracle
- Oracle 8i 新分析工具-LogMiner(轉)Oracle
- 使用logminer來分析對錶所做的修改
- 資料分析利器之Pandas
- AS3.0 Profiler 效能分析利器S3
- 使用Logminer來分析具體的DML操作日誌
- 理解和使用Oracle 8i分析工具-LogMiner(轉)Oracle
- Oracle LogMinerOracle
- 爬蟲分析利器:谷歌Chrome F12抓包分析爬蟲谷歌Chrome
- LogMiner詳解
- logminer總結
- 使用LogMiner工具
- [zt] Oracle LogMinerOracle
- LogMiner 學習
- Oracle logminer(轉)Oracle
- [20150705]LOGMINER分析當前日誌注意.txt
- iOS逆向(9)-Cycript,動態分析APP利器iOSAPP
- tcprstat分析服務的響應速度利器TCP
- node上HTML分析利器node-jquery 薦HTMLjQuery
- 新一代資料分析利器:Google Dremel原理分析KLGoREM
- Logminer日誌挖掘
- LogMiner 用法淺談
- Oracle Logminer 說明Oracle
- Oracle logminer學習Oracle
- LogMiner 字典安裝
- 【STACKX】Oracle core file分析利器STACKX 使用指南Oracle