淺析U.2介面NVMe SSD雙埠模式(下)——可靠性及效能測試

memblaze_2011發表於2018-04-24
上篇說了雙埠的一些概念和實現,《淺析U.2介面NVMe SSD雙埠模式(上)——應用模式與設計實現》這篇將進一步通過測試介紹NVMe SSD雙埠特性的可靠性和效能的驗證。(測試均使用雙路超微伺服器,每路有兩個Intel(R) Xeon(R) CPU E5-2650 v4 @ 2.20GHz core以及64GB記憶體,以及一個PLX 9797 PCIe Switch,每個Switch有20個埠,可同時掛載20個PBlaze5。)

雙埠可靠性測試

鏈路冗餘:

雙埠NVMe SSD可以在鏈路斷開或者埠失敗的情況下提供冗餘。如下圖所示:

圖1 - 鏈路冗餘模式
  • Server可以看到2個NVMe裝置,可以對2個NVMe裝置進行讀寫等操作;
  • 如果中斷一條到NVMe裝置的連結,另一個連結仍然可以保持連線並且存活,server可以正常訪問NVMe裝置。

雙活模式:

雙埠NVMe裝置連線到不同的server A和server B,如下:

圖2 - 雙活模式
Server A與server B同時做正常關機、異常關機、nvme reset或者pcie reset,2個server 都可以正常操作並且彼此不受影響。Server A與server B彼此做不同操作,對於NVMe裝置來說也是不受影響的,兩個server也能做到互不干擾;
Server A與server B間隔一段時間分別做正常關機、異常關機、nvme reset或者pcie reset,2個server 均斷電成功並且開機正常,互相不受影響,啟動後也可以正常載入NVMe裝置;
Server A跑IO workload, server B觸發正常或者異常關機,server A不會受到影響,包括資料完整性和I/O吞吐量以及延遲等方面;反之亦然;

雙埠模式下NVMe SSD的效能

以雙活的配置模式為例,在效能方面,主要展示2個server同時進行順序寫、順序讀,隨機寫,隨機讀,以及一個server 讀,另一個server 寫等模式,並與單埠模式做對比。
主要特點如下:
  • 兩個埠同時IO,檢查並對比頻寬。兩個埠的效能基本保持一致;兩個埠的效能之和與單埠模式的效能保持一致;
  • 一個埠進行IO:與兩個埠同時IO的效能無明顯差異,基本保持一致;
  • 兩個埠同時進行不同IO模式:例如,一個server進行順序讀,另一個server進行順序寫,其效能表現明顯優於相同模式的效能
圖3 - 128K seq write BW on different workload on pblaze5 DualPort SSD
上圖展示的是server A與server B分別進行128K的順序寫時的效能。上面的圖中紅色的效能曲線是SSD的總頻寬,達到2300MB/s ;下圖是2個server的頻寬,可以看出頻寬基本一致,均達到了1150MB/s。
圖4 - 128K seq read BW on different workload on pblaze5 DualPort SSD
上圖展示的是server A與server B分別進行128K的順序讀時的效能。上面的圖中紅色的效能曲線是SSD的總頻寬,達到3135MB/s ;下圖是2個server的頻寬,可以看出頻寬基本一致,均達到了1566MB/s左右。
圖5 - 4K random write IOPS on different workload on pblaze5 DualPort SSD
上圖展示的是server A與server B分別進行4K的隨機寫時的效能。上面的圖中紅色的效能曲線是SSD的總IOPS,達到230k ;下圖是2個server的IOPS,可以看出基本一致,均達到了115k左右。
圖6 - 4K random read IOPS on different workload on pblaze5 DualPort SSD
上圖展示的是server A與server B分別進行4K的隨機讀時的效能。上面的圖中紅色的效能曲線是SSD的總IOPS,達到782k;下圖是2個server的IOPS,可以看出基本一致,均達到了391k左右。
圖7 - one host seq write & one host seq read on different workload on pblaze5 DualPort SSD
上圖展示的是server A在進行順序寫,同時server B進行順序讀時的效能。上面的圖中紅色的效能曲線是SSD的總頻寬,達到2790MB/s;下圖是2個server的頻寬,寫頻寬在1390MB/s左右,讀頻寬達到1400MB/s。

圖8 - one host random write & the other random read on pblaze5 DualPort SSD
上圖展示的是server A在進行隨機寫,同時server B進行隨機讀時的效能。上面的圖中紅色的效能曲線是SSD的總IOPS,達到450k左右;下圖是2個server的IOPS,分別是230k 和220k左右。

結論

本文通過介紹雙埠在企業級儲存中的應用,逐一展示了雙埠SSD的特性以及效能,很好的說明了雙埠NVMe SSD的實用價值。隨著陣列,系統,伺服器等諸多技術環節的完善和成熟,雙埠NVMe SSD將在企業級儲存系統中發揮更大的優勢。

本文作者:汪洋


本文作者汪洋是Memblaze測試開發工程師。





相關文章