HIVE和HBASE的區別是什麼
1. 兩者分別是什麼?
Apache Hive是一個構建在Hadoop基礎設施之上的資料倉儲。透過Hive可以使用HQL語言查詢存放在HDFS上的資料。HQL是一種類SQL語言,這種語言最終被轉化為Map/Reduce. 雖然Hive提供了SQL查詢功能,但是Hive不能夠進行互動查詢--因為它只能夠在Hadoop上批次的執行Hadoop。
Apache HBase是一種Key/Value系統,它執行在HDFS之上。和Hive不一樣,Hbase的能夠在它的資料庫上實時執行,而不是執行MapReduce任務。Hive被分割槽為表格,表格又被進一步分割為列簇。列簇必須使用schema定義,列簇將某一型別列集合起來(列不要求schema定義)。例如,“message”列簇可能包含:“to”, ”from” “date”, “subject”, 和”body”. 每一個 key/value對在Hbase中被定義為一個cell,每一個key由row-key,列簇、列和時間戳。在Hbase中,行是key/value對映的集合,這個對映透過row-key來唯一標識。Hbase利用Hadoop的基礎設施,可以利用通用的裝置進行水平的擴充套件。
2. 兩者的特點
Hive幫助熟悉SQL的人執行MapReduce任務。因為它是JDBC相容的,同時,它也能夠和現存的SQL工具整合在一起。執行Hive查詢會花費很長時間,因為它會預設遍歷表中所有的資料。雖然有這樣的缺點,一次遍歷的資料量可以透過Hive的分割槽機制來控制。分割槽允許在資料集上執行過濾查詢,這些資料集儲存在不同的資料夾內,查詢的時候只遍歷指定資料夾(分割槽)中的資料。這種機制可以用來,例如,只處理在某一個時間範圍內的檔案,只要這些檔名中包括了時間格式。
HBase透過儲存key/value來工作。它支援四種主要的操作:增加或者更新行,檢視一個範圍內的cell,獲取指定的行,刪除指定的行、列或者是列的版本。版本資訊用來獲取歷史資料(每一行的歷史資料可以被刪除,然後透過Hbase compactions就可以釋放出空間)。雖然HBase包括表格,但是schema僅僅被表格和列簇所要求,列不需要schema。Hbase的表格包括增加/計數功能。
3. 限制
Hive目前不支援更新操作。另外,由於hive在hadoop上執行批次操作,它需要花費很長的時間,通常是幾分鐘到幾個小時才可以獲取到查詢的結果。Hive必須提供預先定義好的schema將檔案和目錄對映到列,並且Hive與ACID不相容。
HBase查詢是透過特定的語言來編寫的,這種語言需要重新學習。類SQL的功能可以透過Apache Phonenix實現,但這是以必須提供schema為代價的。另外,Hbase也並不是相容所有的ACID特性,雖然它支援某些特性。最後但不是最重要的--為了執行Hbase,Zookeeper是必須的,zookeeper是一個用來進行分散式協調的服務,這些服務包括配置服務,維護元資訊和名稱空間服務。
4. 應用場景
Hive適合用來對一段時間內的資料進行分析查詢,例如,用來計算趨勢或者網站的日誌。Hive不應該用來進行實時的查詢。因為它需要很長時間才可以返回結果。
Hbase非常適合用來進行大資料的實時查詢。Facebook用Hbase進行訊息和實時的分析。它也可以用來統計Facebook的連線數。
5. 總結
Hive和Hbase是兩種基於Hadoop的不同技術--Hive是一種類SQL的引擎,並且執行MapReduce任務,Hbase是一種在Hadoop之上的NoSQL 的Key/vale資料庫。當然,這兩種工具是可以同時使用的。就像用Google來搜尋,用FaceBook進行社交一樣,Hive可以用來進行統計查詢,HBase可以用來進行實時查詢,資料也可以從Hive寫到Hbase,設定再從Hbase寫回Hive。
Apache Hive是一個構建在Hadoop基礎設施之上的資料倉儲。透過Hive可以使用HQL語言查詢存放在HDFS上的資料。HQL是一種類SQL語言,這種語言最終被轉化為Map/Reduce. 雖然Hive提供了SQL查詢功能,但是Hive不能夠進行互動查詢--因為它只能夠在Hadoop上批次的執行Hadoop。
Apache HBase是一種Key/Value系統,它執行在HDFS之上。和Hive不一樣,Hbase的能夠在它的資料庫上實時執行,而不是執行MapReduce任務。Hive被分割槽為表格,表格又被進一步分割為列簇。列簇必須使用schema定義,列簇將某一型別列集合起來(列不要求schema定義)。例如,“message”列簇可能包含:“to”, ”from” “date”, “subject”, 和”body”. 每一個 key/value對在Hbase中被定義為一個cell,每一個key由row-key,列簇、列和時間戳。在Hbase中,行是key/value對映的集合,這個對映透過row-key來唯一標識。Hbase利用Hadoop的基礎設施,可以利用通用的裝置進行水平的擴充套件。
2. 兩者的特點
Hive幫助熟悉SQL的人執行MapReduce任務。因為它是JDBC相容的,同時,它也能夠和現存的SQL工具整合在一起。執行Hive查詢會花費很長時間,因為它會預設遍歷表中所有的資料。雖然有這樣的缺點,一次遍歷的資料量可以透過Hive的分割槽機制來控制。分割槽允許在資料集上執行過濾查詢,這些資料集儲存在不同的資料夾內,查詢的時候只遍歷指定資料夾(分割槽)中的資料。這種機制可以用來,例如,只處理在某一個時間範圍內的檔案,只要這些檔名中包括了時間格式。
HBase透過儲存key/value來工作。它支援四種主要的操作:增加或者更新行,檢視一個範圍內的cell,獲取指定的行,刪除指定的行、列或者是列的版本。版本資訊用來獲取歷史資料(每一行的歷史資料可以被刪除,然後透過Hbase compactions就可以釋放出空間)。雖然HBase包括表格,但是schema僅僅被表格和列簇所要求,列不需要schema。Hbase的表格包括增加/計數功能。
3. 限制
Hive目前不支援更新操作。另外,由於hive在hadoop上執行批次操作,它需要花費很長的時間,通常是幾分鐘到幾個小時才可以獲取到查詢的結果。Hive必須提供預先定義好的schema將檔案和目錄對映到列,並且Hive與ACID不相容。
HBase查詢是透過特定的語言來編寫的,這種語言需要重新學習。類SQL的功能可以透過Apache Phonenix實現,但這是以必須提供schema為代價的。另外,Hbase也並不是相容所有的ACID特性,雖然它支援某些特性。最後但不是最重要的--為了執行Hbase,Zookeeper是必須的,zookeeper是一個用來進行分散式協調的服務,這些服務包括配置服務,維護元資訊和名稱空間服務。
4. 應用場景
Hive適合用來對一段時間內的資料進行分析查詢,例如,用來計算趨勢或者網站的日誌。Hive不應該用來進行實時的查詢。因為它需要很長時間才可以返回結果。
Hbase非常適合用來進行大資料的實時查詢。Facebook用Hbase進行訊息和實時的分析。它也可以用來統計Facebook的連線數。
5. 總結
Hive和Hbase是兩種基於Hadoop的不同技術--Hive是一種類SQL的引擎,並且執行MapReduce任務,Hbase是一種在Hadoop之上的NoSQL 的Key/vale資料庫。當然,這兩種工具是可以同時使用的。就像用Google來搜尋,用FaceBook進行社交一樣,Hive可以用來進行統計查詢,HBase可以用來進行實時查詢,資料也可以從Hive寫到Hbase,設定再從Hbase寫回Hive。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/15498/viewspace-2135209/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Hive和Hbase的區別Hive
- Hive和HBase區別Hive
- 大資料之hadoop / hive / hbase 的區別是什麼?有什麼應用場景?大資料HadoopHive
- hive與hbase的聯絡與區別Hive
- 什麼是PCB?什麼是PCBA?PCB和PCBA的區別?
- cat和vim的區別是什麼?
- python is和==的區別是什麼?Python
- JDO和JPA的區別是什麼?
- HBase 教程:什麼是 HBase?
- cookie是什麼?和session有什麼區別?CookieSession
- Mssql和Mongodb區別是什麼SQLMongoDB
- powershell和cmd區別是什麼
- 前端和後端的區別是什麼?前端後端
- ArrayList和LinkedList的區別是什麼
- disabled和readonly的區別是什麼
- 《openstack 和hadoop的區別是什麼?》Hadoop
- 轉:samba和NFS的區別是什麼?SambaNFS
- decimal,float和double的區別是什麼?Decimal
- Java和Python是什麼?有什麼區別?JavaPython
- SCRM是什麼,SCRM和CRM區別?
- text(),val()和html()區別是什麼HTML
- HTTP和HTTPS是什麼 二者區別是什麼HTTP
- 連梁和框架樑的區別是什麼?框架
- reactjs和vuejs的區別是什麼ReactJSVue
- Kata和Kaizen之間的區別是什麼?AI
- 【Java面試】Mybatis中#{}和${}的區別是什麼?Java面試MyBatis
- border:0和border:none的區別是什麼None
- EJB和Java Beans的區別是什麼啊JavaBean
- 什麼是HTTP? HTTP 和 HTTPS 的區別?HTTP
- 什麼是報表工具?和 EXCEL 有什麼區別?Excel
- Java 介面和抽象類是什麼,有什麼區別Java抽象
- 什麼是 MicroPython?和CPython有什麼區別?Python
- 什麼是SCRM系統?和CRM有什麼區別?
- png是什麼格式 png和jpg有什麼區別
- xpgu是什麼 xgpu和xgp有什麼區別GPU
- 你和架構師的的區別是什麼?架構
- Object.create(null) 和 {} 區別是什麼ObjectNull
- 深入探究Java中equals()和==的區別是什麼Java