Trafodion:Transactional SQL on HBase

山水佳音發表於2014-10-24
Trafodion: Transactional SQL on HBase
 

HBase上實時分散式事務處理

 
 
介紹
 

        HBase的SQL能力一直不足。Phoenix缺乏Join能力,eBay提出的kylin還不夠簡潔,facebook Presto的HBase聯結器還沒公開。那麼,Trafodion來了。它在HBase上提供了標準SQL功能,並支援事務OLTP。Trafodion是HP的開源舉措,培養在惠普實驗室和HP-IT開發一個企業級的SQL上的HBase解決方案。惠普擁有超過20年的積累,針對大資料的事務或業務工作負載,已經開發事務的SQL技術進入資料庫technologyand解決方案。 Trafodion給Hadoop的生態系統帶來了這一核心技術。要了解更多關於起源和專案的名稱請訪問:

www.hp.com/go/trafodion

 
目標工作負載
 
        Hadoop的工作負載,從長期執行的批處理模式,到跨越如下圖所示的低延時工作負載在右側被視為非常適合的Hadoop的三分析工作,因此獲取了最多的關注。與此相反定義為“運營最左邊的工作是一類新工作負載,它包括OLTP工作負載,以及交易

包括使用社交和移動資料的互動和意見結構化和半結構化資料的混合物。


 
 
 
        傳統上,這些工作負載已經通過關係處理資料庫。但是關聯式資料庫具有可擴充套件性的問題,提供在某些情況下需要的架構靈活性。Hadoop的定位突破了
這些限制。市場有越來越多的興趣壓力結合Hadoop的好處以顯著降低成本,以擁抱這些工作負載Hadoop的生態系統。

 
        隨著業務的工作負載代表的業務需求它們通常由交易不斷流動,需要低延遲響應時間對於讀/寫訪問此外,這些工作負載的特點是
 
ACID相容保護資料的完整性
•高可用性併發性和可擴充套件性
•多結構化資料
快速變化的資料需求

 
特性
 
        目前,還沒有現成的開源SQL的HBase的解決方案可以充分地滿足這些要求Trafodion提供以下功能以支援Hadoop的事務性工作:
 
在多個SQL語句表和行上ACID相容的分散式事務保護
•豐富的全功能的ANSI SQL語言支援使用ODBC/ JDBC連線介面
通過利用編譯時和執行時優化以提高效能
Trafodion打算使用並行感知的大型資料集查詢優化器以提供Hadoop的的全部功能生態系統
通過HBase的家族提供的架構靈活性結構
Hadoop的版本支援快照功能
•高可用性和災難恢復支援,複製和快照功能

 
優點
 
        Trafodion提供了一個全功能的HBase解決方案優化事務的SQL上的資料庫管理系統事務性的資料保護這些功能有助於克服了Hadoop在支援方面事務性工作弱點
 
 
使用Trafodion, 客戶能獲得如下好處:

能夠利用SQL專長 &複雜的MapReduce程式設計現有的事務性應用程式

•無縫支援已經存在的應用程式

•能開發下一代高可擴充套件性實時性事務處理應用

•減少資料延遲降低分析工作負載

         也能獲得Hadoop生態系統內在以下好處

•降低基礎設施成本
•大規模的可擴充套件性彈性顆粒

•提高資料可用性和災難恢復保護


架構


Trafodion軟體架構由三個不同的層次:客戶端SQL資料庫服務並且所述儲存引擎,如下圖所示

第一層是客戶服務應用程式通過標準的ODBC/JDBC訪問Trafodion資料庫

第二Trafodion提供一個關於HBase的頂部模式關係SQL抽象封裝了所有需要管理Trafodion資料庫物件服務這些服務包括連線管理事務管理優化計劃生成和執行Trafodion產生並聯一個成熟的查詢優化器查詢計劃,而無需複雜的MapReduce程式設計

第三儲存引擎標準的hadoop服務,包括HBase的HDFS動物園管理員Trafodion資料庫物件儲存在本地的HadoopHBase的/HDFS資料庫構。 Trafodion處理SQL語句的請求對映本地HBase的透明代表應用程式呼叫


創新的關鍵


        Trafodion分散式事務管理DTM)的組成部分提供了從事務的多個SQL語句多個表多個行的單一的多重保護此外TrafodionDTM通過多個HBase區域配置利用傳統的兩階段提交協議, 對橫跨叢集的分散式叢集提供了保護DTM提供了支援隱式自動提交),並明確BEGINCOMMITROLLBACK WORK事務控制
Trafodion不同的事務性工作供了許多編譯時和執行時優化對於OLTP交易的單個訪問到運營報告高度複雜SQL語句


示例用例OpenCart應用


       OpenCartwhich一個免費的開源電子商務平臺已被修改為執行Trafodion的SQL語句而不是預設的資料庫MySQL的)介面
這是一個很好的程式,以典型的OLTP工作負載特性

        前兩張圖顯示的是惠普的購物車OpenCart的變化,最後兩個圖說明了工作量和查詢 - 等級分析使用Trafodion查詢工作臺


產品說明


        惠普已經作為一個開源專案推出了Trafodion,並釋出在Apache許可證2.0版下。Trafodion現在可以幫助您評估Trafodion能力,並開始證明
概念和原型效果。Trafodion檔案下載包中包含安裝程式和可執行程式碼,可在www.trafodion.org



相關文章