Orion - oracle提供的測試io效能的工具

什麼是Orion

Orion是oracle提供的測試io效能的工具。它可以用來模擬Oracle資料庫IO，也可以用來仿
真ASM的條帶化的功能。

Orion支援的IO負載

Orion可以支援下列IO負載

1. 小的隨機的IO：

OLTP的應用主要是隨機的讀寫，大小和資料的塊大小一樣（一般是8K）。
這樣的應用主要是關注的吞吐量是IOPS和一個請求的平均延時時間。Orion可以模擬一個
隨機IO負載。指定的讀寫百分比，指定的IO大小，指定的IOs，IOs是分佈在不同的磁碟上。

2. 大的連續的IO：

資料倉儲的應用，資料裝載，備份，和恢復會產生連續的讀寫流，這些
讀寫是由多個1M的IO組成的。這些應用都是處理大資料量的資料，主要是關注總體的資料
吞吐量MBPS

3. 大的隨機的IO:

一個連續的讀寫和其他的資料庫活動同時訪問磁碟。基於條帶化，一個
連續的讀寫擴充套件到多個磁碟上。因此，在磁碟的這個層次上，許多的連續的讀寫被看作隨機
的1M的IO,又被稱作多使用者的連續IO。

4. 混合的負載:

Orion可以同時模擬前倆種負載：小的隨機的IO，大的連續的IO。這將使你
可以模擬，OLTP的8K的隨機讀寫的負載和4個連續的1M IO讀寫的備份的負載。

針對不同的IO負載，Orion可以在不同的IO壓力測試並得到效能引數：MBPS，IOPS，和IO
延遲時間。負載是術語，代表非同步的IOs的數目。內部本質來說，每一個負載層次，Orion
軟體一直在儘快的發I/O請求來完成這個層次的I/O負載。針對隨機的負載（大的和小的），
負載的層次就是I/Os的數目。針對大的連續的負載，負載的層次就是連續的讀寫流和每次
讀寫流的IO的數目。在負載層次範圍內測試指定的負載將幫助使用者理解效能是怎麼受影響的。

測試目標：

理論上，ORION可以用來測試任何支援非同步的字元裝置。ORION已經在下列型別的裝置上測試過。

1. DAS(directed_attatched)的儲存：
2. SAN(storage-area network)的儲存：
3. ORION沒有在NAS(network-attached storage).

ORION對儲存裝置的供應商：
供應商可以用ORION來理解Oracle是如何來在儲存上執行的。也可以用Orion來找出適合
Oracle最好的儲存配置。

ORION對Oracle管理員
Oracle管理員可以根據期望的工作量使用Orion來評估和比較不同的儲存陣列。他們也可以
用Orion來決定峰值時最佳化的網路連線數，儲存陣列數，儲存陣列控制器數，和磁碟數。附
錄A描述了根據資料庫現在的工作量來推測IOPS和MBPS需求。

Orion測試

開始使用Orion
1. 下載orion: 有Linux/x86，Solaris/SPARC 和Windows/x86版本

2. 安裝Orion

   Linux/Solaris：解壓Orion執行檔案。
   gunzip orion_linux_x86-64.giz
   Windows: 執行安裝程式
   C:\temp> orion_windows_x86-64.msi
  
3. 選擇測試名，我們使用的名是mytest

4. 建立檔名 mytest.lun，例如：

5. 驗證裝置是不是可以訪問。

Linux可以用下面的命令：
   $ dd if=/dev/raw/raw1 f=/dev/null bs=32k count=1024
 1024+0 records in
 1024+0 records out
  
6. 驗證在你的平臺上已經有非同步IO的類庫。

Orion測試完全是依賴非同步的IO。在linux和
solaris，類庫libaio需要安裝並被訪問。環境變數名是LD_LIBRARY_PATH或者是LIBPATH,
window已經安裝非同步IO。

7. 第一次測試，

建議使用simple，simple測試衡量在不同的負載下的小隨機讀和大的隨
機讀。這些結果給我一些想法，不同型別的IO和負載下的IO效能。simple測試的命令：

 ./orion_linux_x86-64 -run simple -testname mytest -num_disks 4

ORION: ORacle IO Numbers -- Version 11.1.0.7.0
mytest_20101218_2205
Test will take approximately 30 minutes
Larger caches may take longer

Orion生成的IO負載層次考慮了在mytest.lun檔案中磁碟的數目。

8. 結果將被記錄在輸出檔案中。

輸出檔案：

Orion將產生幾個輸出檔案,

1. mytest_summary.txt: 這個檔案包含：
 a. 輸入引數
 b. 針對大的隨機和連續的工作量下觀察到的最大的吞吐量
 c. 針對小的隨機的工作量的IO速率
 d. 針對小的隨機的工作量的最小的延遲時間。

2. mytest_mbps.csv檔案：這是個csv檔案。包含大的隨機或者連續的IO工作量。所有的csv
輸出檔案有個2維表。行代表大的IO負載層次。列代表小的IO負載層次。simple測試不包含
大的和小的IO結合。所以MBPS檔案只有一個列，0代表沒有小的IO。

在這個例子中，當負載層次在5的時候，沒有小的IO操作，我們得到的資料吞吐量是60.33MBPS
我們可以用excel圖形來顯示MBPS的速率。

test_20101218_2205_mbps.csv
Large/Small,      0,      1,      2,      3,      4,      5,      6,      7,   
  8,      9,     10,     11,     12,     13,     14,     15,     16,     17,   
 18,     19,     20

3. mytest_iops.csv: 這是個小的隨機的IO工作量的IOPS吞吐量。

4. mytest_lat.csv: 這是個小的隨機的IO工作量下的延遲時間。

# more mytest_20101218_2205_lat.csv

5. mytest_trace.txt: 包含擴充套件的，未處理的測試輸出。

Orion輸入引數

輸入引數：Orion可以使用命令的引數來測試任意一種工作量。

強制輸入的引數：

run：測試執行的層次，這個選項提供simple，normal，advanced的層次。如果沒有指定
advanced，那麼設定有些非強制的引數（-cache_size和-verbose）將會出錯。
 simple：產生小的隨機的IO和大的連續的IO工作量。在這個選項中，小的隨機的IO和
 大的連續的IO是分開測試的。這個引數對應下列的Orion呼叫：
 ./orion -run advanced -testname mytest \
 -num_disks 4 \
 -size_small 8 -size_large 1024 -type rand \
 -simulate concat -write 0 -duragion 60 \
 -matrix basic

 normal: 除了simple的功能外，還會產生小的隨機的IO和大的連續的IO的結合。
 ./orion -run advanced -testname mytest \
 -num_disks 4 \
 -size_small 8 -size_large 1024 -type rand \
 -simulate concat -write 0 -duragion 60 \
 -matrix detailed

 advanced: 如果用這個選項，使用者需要指定可選的引數。

testname: 輸入檔案必須是.lun

num_disks: 實際測試的物理磁碟的數目。

可選的輸入引數：

help：幫助資訊

size_small: 小的隨機工作量的IO的大小（KB）

size_large: 大的隨機的或者連續工作量的大小（KB）。

type：大的IO的工作量（預設是rand）：
 rand：大的隨機的IO
 seq：大的連續的IO

num_streamIO: 每個大的連續讀寫流的IO數目。只是在-type seq下使用。

simulate：大的連續的IO工作量小的資料分佈。
 contact：串聯指定的luns成一個虛擬的卷。在虛擬的捲上的連續的測試從某個點到一個
 lun的結束點。然後再到下一個lun。

 raid0：在指定的luns上條帶化成一個虛擬的卷。條帶的大小是1M（和asm的條帶大小一
 致），可以透過引數-stripe來更改。

write: 和讀相比的寫的百分比，這個引數在小的隨機的和大的連續的IO工作量下適用。在大
的連續的IO，每個讀寫流要麼是讀要麼是寫。這個引數是指只是寫百分比。寫的資料都是垃
圾資料。 寫的測試將破壞的指定的lun。

cache_size: 儲存陣列的讀寫快取大小（MB）。針對大的連續的IO工作量，Orion將在每個測
試點之前warm的cache。使用快取大小來決定快取操作。如果沒有指定，將有個預設值。如果
是0的話，將沒有warm快取。

duration: 每個測試點的時間。（預設是60）

matrix: 混合工作量測試的型別
 basic：沒有混合的工作量，小的隨機的IO和大的連續的IO分開測試。
 detailed：小的隨機的IO和大的連續的IO結合起來測試。
 point: 單個測試點，S代表小的隨機的IO，L代表大的隨機/連續的IO。S -num_small
 L -num_large
 col: 大的隨機/連續的IO
 row： 小的隨機的IO
 max：和detailed一樣，只是在最大的負載下測試工作量。可以用-num_small和
 -num_large引數指定。

num_small: 小的隨機的IO的最大數目。
num_large: 大的隨機的IO或者一個讀寫流的併發數目。

verbose：列印進度和狀態到控制檯。

命令列例子：

 為了理解你的儲存效能，小的隨機讀和大的隨機IO讀工作量，先開始執行：
 ./orion -run simple -num_disks 4 -testname mytest

 測試小的隨機讀和大的隨機讀的IO工作量，執行：
 ./orion -run normal -testname mytest -num_disks 4

 測試32K和1MB隨機讀的組合
 ./orion -run advanced -testname mytest -num_disks 4 -size_small 32 \
 -size_large 1024 -type rand -matrix detailed

 測試1MB連續寫流，模擬1MB的raid-0條帶化
 ./orion -run advanced -testname mytest -num_disk 4 -simulate raid0 \
 -stripe 1024 -write 100 -type seq -matrix col -num_small 0

常見問題：

在.lun中的捲髮生IO錯誤：
 用dd複製檔案命令來驗證
 驗證作業系統支援非同步IO
 在linux和solaris中， 類庫libaio必須在類庫路徑中

如果使用的是NAS
 確保檔案系統被載入
 .lun的檔案要包含一個或多個已有檔案，Orion不和目錄或載入點工
 作。檔案要足夠大，能代表你實際資料檔案大小。
 NFS在linux下非同步IO效能很差
 如果測試的時候遇到沒有初始化的或者未寫過的塊的時候，有些智慧的NAS系統
 將產生偽造的資料，解決方法是寫所有的塊。

如果在windows下測試
 在裸裝置上測試的時候，要對映一個磁碟機代號

如果是執行32位Orion在64位Linux上
 複製一份32位的libaio到64位機器上

如果測試的磁碟數超過30
 你應該使用duration引數，併為每個測試點制定一個更長的時間（120秒）。因
 為Orion讓所有的軸都執行在一個負載下。每個測試點需要加大時間。
 你可能遇到下列的錯誤
  specify a longer -duration value.

類庫的錯誤
 參考第一個常見錯誤
 NT-ONLY：確保oracle的類庫和orion在同一個目錄

遇到”unbelievably good"
 可能有個很大讀寫快取，一般儲存陣列控制器有很大的影響。找出快取的大小，
 並在引數-cache_size中為orion指定。
 卷的大小不夠，嘗試關閉快取。如果其他卷共享儲存，將會看到突出的IO操作。
 
Orion報告長時間執行
 如果num_disks高的話，執行時間也很長。
 引數cache_size影響執行時間，Orion為每個測試點準備快取需要2分鐘。 如
 果你關閉了你的快取，你可以指定引數cache_size=0
 如果指定的引數duration很長，執行時間是很長。

附錄A：

分類資料庫的IO負載

為了正確的配置資料庫的儲存裝置，必須瞭解資料庫的效能需求。

 1 IO請求主要是單個塊還是多個塊
  資料庫將發出多個IO請求：並行查詢，查詢大資料量的表掃描，直接資料裝
  載，備份恢復。一般來說，OLTP主要是單個IO請求，DSS資料倉儲是多個IO請
  求。
 2 平均和峰值的IOPS是多少? 寫佔多少百分比。
 3 平均和峰值的MBPS是多少？寫佔多少百分比。

如果你的資料庫IO請求主要是單個塊，那就關注IOPS，如果資料庫IO請求主要是多個
塊，那就關注MBPS。

10gR2資料庫：可以從檢視v$sysstat得到IO的型別。
 單個資料塊的讀："physical read total IO requests" - "physical read
 total multi block requests"
 多個資料塊的讀："physical read total multi block requests"
 讀的總和："physical read total IO requests"
 單個資料塊的寫："physical write total IO requests" - "physical write
 total multi block requests"
 多個資料塊的寫："physical write total multi block requests"
 寫的總和："physical write total IO requests"

使用這些資料，你可以評估在一段時間範圍內（包含正常時間和峰值時間）讀寫的
IOPS和MBPS，

單個資料塊讀是98%
單個資料塊寫實97%

也可以從awr報表中得到這些資料。

附錄B：資料倉儲

在資料倉儲設計和管理的時候，IO效能是一個關鍵的部分，典型的資料倉儲系統是
IO集中，操作在大資料量上，資料載入，重建索引和建立物化檢視。資料倉儲支援
的IO必須設計符合過度的需求。

資料倉儲的儲存配置是根據IO頻寬，而不是總的容量。磁碟的容量比磁碟吞吐量速
率發展快，結果少數幾個磁碟可以儲存大量的資料。但是大量的磁碟不能提供同樣
IO吞吐量。你可以用多個磁碟和管道來得到最大的頻寬。條帶化是一種方法來實現。
實現一個大的條帶大小（1M）來確保時間來定位磁碟和傳輸資料。

orion可以模擬連續的IO吞吐量，例如：
 白天的工作量：當終端客戶，其他應用查詢系統：許多單獨的併發只讀IO
 資料裝載：終端使用者可能訪問資料庫，寫的工作量和一些可能並行讀（也許是
 裝載程式或者終端使用者）
 重建索引和物化檢視：讀寫工作量
 備份：只讀的工作量，可能高的並行度
 
使用下列選項來模擬不同的資料倉儲的工作量

 run：使用advanced來模擬只讀連續的IO
 large：大的連續讀的IO大小。這個引數是os io大小的整數倍。
 type： 使用seq
 num_streamIO: 增加這個引數來模擬並行執行操作。指定計劃的並行度。一個
 好的開始點是CPU數目*一個CPU的執行緒數。
 simulate：如果使用硬體條帶化或者卷管理器條帶化，則使用concat。如果還
 沒有條帶化，比如ASM，則使用raid0。預設條帶大小是1M。
 write：寫佔用的百分比。
 matrix: 使用point來模擬單個連續工作量，或者使用col來模擬不斷增加的大
 的連續的工作量。
 num_large: 最大的大的IOs

./orion -run advanced \
-testname mytest \
-matrix point \
-num_small 0 \
-num_large 4 \
-size_large 1024 \
-num_disks 4 \
-type seq \
-num_streamIO 8 \
-simulate raid0 \
-cache_size 0 \
-write 0
-verbose

 
Commandline:
-run advanced -testname mytest -matrix point -num_small 0 -num_large 4 -size_lar
ge 1024 -num_disks 4 -type seq -num_streamIO 8 -simulate raid0 -cache_size 0 -wr
ite 0

This maps to this test:
Test: mytest
Small IO size: 8 KB
Large IO size: 1024 KB
IO Types: Small Random IOs, Large Sequential Streams
Number of Concurrent IOs Per Stream: 8
Force streams to separate disks: No
Simulated Array Type: RAID 0
Stripe Depth: 1024 KB
Write: 0%
Cache Size: 0 MB
Duration for each Data Point: 60 seconds
Small Columns:,      0
Large Columns:,      4
Total Data Points: 1

Name: /dev/sda5 Size: 102404703744
Name: /dev/sdb1 Size: 102404703744
Name: /dev/sdc1 Size: 102404703744
Name: /dev/sdd1 Size: 102404703744
4 FILEs found.

Maximum Large MBPS=66.88 @ Small=0 and Large=4

從測試資料看，在這種情況下，吞吐量是66.88M。理想的情況下：oracle可以達到95%。

下面的語句4個併發的會話。

在一個很好平衡的資料倉儲配置，應該有足夠的IO來利用CPU。作為一個起始點，可以
使用下列規則：一個GHZ的CPU可以驅動100M。比如說有4個3G的CPUs，那麼你的儲存應
該提供4*3*100=1200MBPS的吞吐量。在RAC環境中，這個數量可以乘以節點的數目。

1. 1 disk

從這裡看到這個磁碟的極限是177IOPS，29.20MBPS。

從IOSTAT的輸出看到當這個磁碟的IOPS是164的時候，%util利用率已經是100%。等待時間是
18ms。

2. 2 disk

從summary檔案中看到兩個磁碟的極限，MBPS是50.94M, IPOS是330。

從IOSTAT的輸出看到當這個磁碟的IOPS是200的時候，%util利用率已經是77%。等待時間是
10ms。

從IOSTAT的輸出看到當這個磁碟的IOPS是330左右的時候，%util利用率已經是99%。等待時間是
30ms。

從IOSTAT的輸出看到當這個磁碟的MBPS是51M左右的時候，%util利用率已經是93%。等待時間是
70ms。兩個磁碟的條帶大小是1M。第一塊磁碟：26266.93/52.1 = 504K, 第二塊磁碟：
25654.51/49.7=516K

3. 3 disk

從summary檔案中看到三個磁碟的極限，MBPS是73.25M, IPOS是492。

從IOSTAT的輸出看到當三個磁碟的IOPS是300的時候，%util利用率已經是70%。等待時間是
10ms。

從IOSTAT的輸出看到當三個磁碟的IOPS是485的時候，%util利用率已經是97%。等待時間是
29ms。

3. 3 disk

從summary檔案中看到四個磁碟的極限，MBPS是63.24M, IPOS是649。

從IOSTAT的輸出看到當三個磁碟的IOPS是357的時候，%util利用率已經是70%。等待時間是
10ms。

從IOSTAT的輸出看到當三個磁碟的IOPS是638的時候，%util利用率已經是96%。等待時間是
30ms。

響應時間+IOPS 就說明了系統的當前io狀況啊,響應時間在 10ms 左右能達到的最大iops 能力，
是系統io能力的一個最重要指標。

衡量系統io能力，我們也是關注的高峰期一段時間內穩定執行的狀況

簡單來說，如果一個database在peak time顯示出來的db file sequential/scattered read
average wait time的指標明顯低於7 ms, 那麼，我們不應該把焦點集中在Storage 上。雖然這個
指標不一定說明Storage 效能很好，但是至少表明系統的瓶頸並不在Storage 上1，改善Storage
效能未必能獲得很高回報。反之，如果一個database在peak time顯示出來的db file sequential/
scattered read average wait time的指標明顯高於10 ms,我們可能需要關注Storage的效能是否
存在瓶頸，當然，同時也可以從降低Total IO的角度去處理。

一個random IO的理論時間是：
7ms =  4-5ms(磁碟平均尋道時間）+ 2ms (傳輸時間) + 一些其它的消耗
如果不考慮file system cache hit(raw device/direct IO)  以及storage cache hit , 同時沒
有磁碟競爭，那麼，db file sequntial read的時間就會是 7ms左右.

而由於file system cache hit和storage cache hit的情況下，沒有磁碟競爭的系統db file
sequntial read 會小於 7ms 如果有磁碟競爭，而且競爭產生的延遲> file system cache hit和
storage cache hit的好處，就會大於7ms .10ms 可以說是一個經驗值，就是磁碟競爭產生的延遲
比較高了