NAS資料遷移到物件儲存太麻煩?90分鐘納管1000萬檔案瞭解一下
物件儲存成為海量數字底座首選
移動網際網路和物聯網等技術把我們帶入海量資料時代,資料終端呈現指數級增長,資料的型別和數量越來越多。在企業內部,新增資料中超過80%都是非結構化資料。
IT初期規劃中,由於資料規模較小,企業往往採用NAS儲存非結構化資料。但當檔案超過千萬級,NAS會出現效能瓶頸,嚴重影響業務效率;而且資料量攀升帶來的頻繁擴容、升級,也增加了不小的維護工作量。
物件儲存無疑是應對海量非結構化資料增長的最佳選項,從實際部署情況看,越來越多的企業開始將非結構化資料切換到物件儲存平臺。
技術演進帶來異構管理困境
IT建設是一個漸進的過程,技術在不斷髮展,IT基礎設施也在不斷更新。最早的時候,企業的業務資訊量比較小,只用一個檔案伺服器就可以解決問題。隨著業務發展,資料逐漸增多,磁碟陣列、軟體定義儲存開始成為資料基礎設施的中流砥柱。
技術演進造成了儲存裝置的參差不齊,品牌紛呈。異構環境帶來了裝置不相容、資料遷移不便等管理難題。據統計,管理員平均40%的工作時間用於維護儲存的管理功能,平均25-50%的儲存管理時間用於診斷和解決問題。
在大型資料中心裡面,這種情況尤其突出。在交付廣發證券檔案中心物件儲存專案時,客戶原有NAS儲存了近6000萬檔案,總容量近40TB,客戶利用業務空窗期透過傳統方式進行歷史資料搬遷,耗時長達2個月,運維工作也需要持續的人力投入。如果物件儲存能夠快速納管能力,業務上線時間將會大幅縮短,運維人力將得到釋放,客戶效益也將進一步提升。
當NAS向物件儲存演進成為必由之路,如何避免陷入裝置和資料的維護管理,將是所有物件 必然克服的難題。
杉巖MOS幫您免遷移納管NAS
圖1.免遷移納管NAS,IT架構平滑演進
在MOS海量物件儲存納管NAS裝置的過程中,MOS會讀取NAS中每個檔案的後設資料資訊,並將其轉換為物件儲存中的物件屬性資訊,同時將原始檔與桶空間進行對映。納管完成之後,前端業務可透過S3介面直接訪問NAS中的歷史資料,後續新寫入的資料則直接存入物件儲存中。免去了資料遷移與校驗的繁瑣過程,業務上線的時間大大縮短。
在實際測試中,3個節點的物件儲存叢集,對1000萬個檔案進行納管只需要90分鐘,並且無需考慮檔案大小。相比之下,使用傳統方式遷移1000萬個16KB大小的檔案,需要12個小時左右的時間,若檔案增大,遷移時間將更長。另外,在節點數更多的情況下,納管時間會更短。
考慮到不同客戶對NAS裝置的替代需求存在差異,杉巖提供了不同粒度的納管選項。客戶可選擇對整個NAS目錄進行納管,也可以只納管其中的某個子目錄,從而實現增量納管的功能。
此外,如果客戶想要淘汰NAS儲存,也可透過配置生命週期管理策略,系統自動將NAS中的歷史資料逐步遷移到物件儲存中,無需人為干預。整個遷移過程完全透明,使用者無感知。
成功實踐
中國人保財險
隨著網際網路與傳統行業融合,中國人保財險的網際網路業務及使用者規模不斷擴大,保險影像平臺的資料量激增,原有NAS儲存面臨海量小檔案效能差、裝置擴容複雜、資料安全隱患等諸多挑戰。
該專案基於5節點、總容量300TB的MOS物件儲存叢集,構建影像資料儲存平臺,透過納管原有NAS中近600萬檔案,實現資源整合;同時將海量小檔案效能提升至毫秒級,業務顯著提效;線上彈性擴容,滿足業務發展需要;透過http協議訪問,使用者可直接從儲存拉取資料,實現影像資料實時調閱。
珠海華潤銀行
珠海華潤銀行是珠海市首家資產過千億的獨立法人企業,業務涵蓋公司金融、個人金融和金融市場等多個領域,現有珠海、深汕兩個資料中心。業務持續增長使得交易單號、音影片等非結構化資料激增,日增量在200-400GB,原有NAS擴容費時費力,而且NAS不支援雙中心雙寫,導致異地訪問頻寬壓力大,影響客戶體驗。
該專案在珠海和深汕資料中心部署6節點物件儲存叢集,總容量近400TB,替換原有EMC高階NAS儲存,上層對接資料管理平臺ODS(Operational Data Storage),支撐更大的資料規模和更高的訪問效能。透過NAS納管實現資源整合,綜合成本削減超30%,IT預算分配更加合理;高併發優勢和雙中心資料就近讀寫能力,讓業務提效超過50%,資料可靠性提升2倍以上。
國內最大的電子認證服務機構
作為國家級權威金融安全認證機構 ,累計服務超過2400家金融機構,其電子簽名相關業務每月新增4000萬個檔案,NAS效能瓶頸以及頻繁的冷資料歸檔讓客戶最終決定基於物件儲存構建海量智慧數字底座。
該專案採用8節點、總容量800 TB的杉巖MOS物件儲存叢集納管原有NAS,業務割接時間縮短到小時級,輕鬆支撐數十億檔案的儲存需求;將低配伺服器和原有NAS作為冷資料池,實現裝置利舊,透過生命週期管理策略實現資料自動分層歸檔,綜合成本降低超過40%。
大資料時代,一個企業資料佔有量越多、資料整合越有效,企業的經營發展就越有優勢。杉巖資料的NAS納管方案,極大降低了裝置更替給業務連續性帶來的影響,縮短了業務割接時間,同時利用自動化策略減輕管理運維壓力,為企業IT架構的平滑演進保駕護航。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69956769/viewspace-2738878/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 把檔案系統的資料檔案遷移到ASM儲存ASM
- 資料儲存--檔案儲存
- 塊儲存 檔案儲存 物件儲存物件
- oracle asm 儲存 a磁碟組中的資料檔案 遷移到b磁碟組實施步驟OracleASM
- 自建資料庫太麻煩?華為雲資料庫GaussDB既省心又省力資料庫
- 資料儲存(歸檔解檔,沙河儲存)
- 還在為管理企業資料檔案感到煩惱?企業雲盤瞭解一下
- aix 下 oracle 11.2 rac 把資料遷移到新儲存AIOracle
- 基礎-vuex真是太麻煩了Vue
- 資料庫從檔案系統遷移到ASM資料庫ASM
- 利用rman將本地資料檔案遷移到asmASM
- 如何將MAC的檔案儲存至NAS網路儲存?Mac
- 數字時代,如何搞定資訊儲存這件麻煩事?
- 將資料庫從ASM遷移到檔案系統資料庫ASM
- 將資料庫從檔案系統遷移到ASM資料庫ASM
- Elasticsearch 基於物件儲存使用快照資料遷移Elasticsearch物件
- 將ORACLE資料庫資料檔案遷移到其他目錄(ZT)Oracle資料庫
- IOS資料儲存之檔案沙盒儲存iOS
- 物件儲存 vs 檔案儲存 vs 塊儲存,選哪個?物件
- geoserver資料儲存遷移Server
- Android中的資料儲存之檔案儲存Android
- IOS資料儲存之歸檔/解檔iOS
- 關於Mysql資料儲存,你瞭解多少?MySql
- 資料檔案是否是smallfile型別檔案,其儲存是否達到資料檔案儲存上限,是否是多個資料檔案型別
- 利用RMAN將資料庫從檔案系統遷移到ASM資料庫ASM
- 瀏覽器本地儲存簡單瞭解一下瀏覽器
- CEPH分散式儲存搭建(物件、塊、檔案三大儲存)分散式物件
- 檔案儲存NAS備份服務開放公測
- 檔案系統儲存與oracle資料庫儲存對比Oracle資料庫
- NAS資料遷移初探
- 大資料檔案儲存系統HDFS大資料
- Go Web:資料儲存(2)——CSV檔案GoWeb
- ORACLE資料檔案儲存之我見Oracle
- 資料庫遷移到ASM資料庫ASM
- 讀檔案時,產生大量的記憶體無法釋放,麻煩各位看一下記憶體
- 海量非結構化資料儲存難題 ,杉巖資料物件儲存完美解決物件
- 實現資料庫由檔案系統遷移到 ASM 磁碟組中資料庫ASM
- 使用資料庫冷備份方式進行資料庫遷移,資料庫檔案遷移到不同的目錄資料庫