NAS資料遷移到物件儲存太麻煩?90分鐘納管1000萬檔案瞭解一下
物件儲存成為海量數字底座首選
移動網際網路和物聯網等技術把我們帶入海量資料時代,資料終端呈現指數級增長,資料的型別和數量越來越多。在企業內部,新增資料中超過80%都是非結構化資料。
IT初期規劃中,由於資料規模較小,企業往往採用NAS儲存非結構化資料。但當檔案超過千萬級,NAS會出現效能瓶頸,嚴重影響業務效率;而且資料量攀升帶來的頻繁擴容、升級,也增加了不小的維護工作量。
物件儲存無疑是應對海量非結構化資料增長的最佳選項,從實際部署情況看,越來越多的企業開始將非結構化資料切換到物件儲存平臺。
技術演進帶來異構管理困境
IT建設是一個漸進的過程,技術在不斷髮展,IT基礎設施也在不斷更新。最早的時候,企業的業務資訊量比較小,只用一個檔案伺服器就可以解決問題。隨著業務發展,資料逐漸增多,磁碟陣列、軟體定義儲存開始成為資料基礎設施的中流砥柱。
技術演進造成了儲存裝置的參差不齊,品牌紛呈。異構環境帶來了裝置不相容、資料遷移不便等管理難題。據統計,管理員平均40%的工作時間用於維護儲存的管理功能,平均25-50%的儲存管理時間用於診斷和解決問題。
在大型資料中心裡面,這種情況尤其突出。在交付廣發證券檔案中心物件儲存專案時,客戶原有NAS儲存了近6000萬檔案,總容量近40TB,客戶利用業務空窗期透過傳統方式進行歷史資料搬遷,耗時長達2個月,運維工作也需要持續的人力投入。如果物件儲存能夠快速納管能力,業務上線時間將會大幅縮短,運維人力將得到釋放,客戶效益也將進一步提升。
當NAS向物件儲存演進成為必由之路,如何避免陷入裝置和資料的維護管理,將是所有物件 必然克服的難題。
杉巖MOS幫您免遷移納管NAS
圖1.免遷移納管NAS,IT架構平滑演進
在MOS海量物件儲存納管NAS裝置的過程中,MOS會讀取NAS中每個檔案的後設資料資訊,並將其轉換為物件儲存中的物件屬性資訊,同時將原始檔與桶空間進行對映。納管完成之後,前端業務可透過S3介面直接訪問NAS中的歷史資料,後續新寫入的資料則直接存入物件儲存中。免去了資料遷移與校驗的繁瑣過程,業務上線的時間大大縮短。
在實際測試中,3個節點的物件儲存叢集,對1000萬個檔案進行納管只需要90分鐘,並且無需考慮檔案大小。相比之下,使用傳統方式遷移1000萬個16KB大小的檔案,需要12個小時左右的時間,若檔案增大,遷移時間將更長。另外,在節點數更多的情況下,納管時間會更短。
考慮到不同客戶對NAS裝置的替代需求存在差異,杉巖提供了不同粒度的納管選項。客戶可選擇對整個NAS目錄進行納管,也可以只納管其中的某個子目錄,從而實現增量納管的功能。
此外,如果客戶想要淘汰NAS儲存,也可透過配置生命週期管理策略,系統自動將NAS中的歷史資料逐步遷移到物件儲存中,無需人為干預。整個遷移過程完全透明,使用者無感知。
成功實踐
中國人保財險
隨著網際網路與傳統行業融合,中國人保財險的網際網路業務及使用者規模不斷擴大,保險影像平臺的資料量激增,原有NAS儲存面臨海量小檔案效能差、裝置擴容複雜、資料安全隱患等諸多挑戰。
該專案基於5節點、總容量300TB的MOS物件儲存叢集,構建影像資料儲存平臺,透過納管原有NAS中近600萬檔案,實現資源整合;同時將海量小檔案效能提升至毫秒級,業務顯著提效;線上彈性擴容,滿足業務發展需要;透過http協議訪問,使用者可直接從儲存拉取資料,實現影像資料實時調閱。
珠海華潤銀行
珠海華潤銀行是珠海市首家資產過千億的獨立法人企業,業務涵蓋公司金融、個人金融和金融市場等多個領域,現有珠海、深汕兩個資料中心。業務持續增長使得交易單號、音影片等非結構化資料激增,日增量在200-400GB,原有NAS擴容費時費力,而且NAS不支援雙中心雙寫,導致異地訪問頻寬壓力大,影響客戶體驗。
該專案在珠海和深汕資料中心部署6節點物件儲存叢集,總容量近400TB,替換原有EMC高階NAS儲存,上層對接資料管理平臺ODS(Operational Data Storage),支撐更大的資料規模和更高的訪問效能。透過NAS納管實現資源整合,綜合成本削減超30%,IT預算分配更加合理;高併發優勢和雙中心資料就近讀寫能力,讓業務提效超過50%,資料可靠性提升2倍以上。
國內最大的電子認證服務機構
作為國家級權威金融安全認證機構 ,累計服務超過2400家金融機構,其電子簽名相關業務每月新增4000萬個檔案,NAS效能瓶頸以及頻繁的冷資料歸檔讓客戶最終決定基於物件儲存構建海量智慧數字底座。
該專案採用8節點、總容量800 TB的杉巖MOS物件儲存叢集納管原有NAS,業務割接時間縮短到小時級,輕鬆支撐數十億檔案的儲存需求;將低配伺服器和原有NAS作為冷資料池,實現裝置利舊,透過生命週期管理策略實現資料自動分層歸檔,綜合成本降低超過40%。
大資料時代,一個企業資料佔有量越多、資料整合越有效,企業的經營發展就越有優勢。杉巖資料的NAS納管方案,極大降低了裝置更替給業務連續性帶來的影響,縮短了業務割接時間,同時利用自動化策略減輕管理運維壓力,為企業IT架構的平滑演進保駕護航。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69956769/viewspace-2738878/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 塊儲存 檔案儲存 物件儲存物件
- 資料儲存--檔案儲存
- 資料儲存(歸檔解檔,沙河儲存)
- 如何將MAC的檔案儲存至NAS網路儲存?Mac
- 還在為管理企業資料檔案感到煩惱?企業雲盤瞭解一下
- Elasticsearch 基於物件儲存使用快照資料遷移Elasticsearch物件
- Android中的資料儲存之檔案儲存Android
- 物件儲存 vs 檔案儲存 vs 塊儲存,選哪個?物件
- 自建資料庫太麻煩?華為雲資料庫GaussDB既省心又省力資料庫
- 基礎-vuex真是太麻煩了Vue
- geoserver資料儲存遷移Server
- CEPH分散式儲存搭建(物件、塊、檔案三大儲存)分散式物件
- 檔案儲存NAS備份服務開放公測
- 關於Mysql資料儲存,你瞭解多少?MySql
- 大資料檔案儲存系統HDFS大資料
- Go Web:資料儲存(2)——CSV檔案GoWeb
- 海量非結構化資料儲存難題 ,杉巖資料物件儲存完美解決物件
- 阿里雲NAS檔案遷移專案實踐阿里
- 檔案儲存
- 物件儲存、檔案儲存、塊儲存這三者之間有什麼區別?物件
- 【Python3網路爬蟲開發實戰】5-資料儲存-1 檔案儲存-2 JSON檔案儲存Python爬蟲JSON
- Mac上檔案太多找起來很麻煩?試試這個Mac
- 開源的NAS軟體專案儲存
- MySQL資料庫遷移到PostgresMySql資料庫
- Pandas之EXCEL資料讀取/儲存/檔案分割/檔案合併Excel
- OSS物件儲存的檔案追加上傳問題及解決方案物件
- 舊NAS資料遷移至新NAS怎麼做
- 麻煩把JS的事件環給我安排一下!!!JS事件
- oracle RAC 更換儲存遷移資料Oracle
- 微信儲存的檔案在哪個資料夾
- PHP匯出大量資料,儲存為CSV檔案PHP
- mysql 資料儲存檔案及6類日誌MySql
- [資料庫系統]儲存和檔案結構資料庫
- CentOS修改Mariadb資料庫檔案儲存路徑CentOS資料庫
- 【儲存資料恢復】IBM儲存檔案NTFS系統損壞的資料恢復案例資料恢復IBM
- 瞭解如何在 Neo4j 的 NoSQL 資料儲存中持久化物件和關係。SQL持久化物件
- 資料庫檔案儲存(DBFS),是一款針對資料庫場景的雲原生共享檔案儲存服務資料庫
- 儲存json檔案JSON