Hadoop如何設定HDFS的塊大小

chenfeng發表於2017-03-27
  HDFS是設計來儲存和管理大資料的,因此典型的HDFS塊大小明顯比平時我們看到的傳統檔案系統塊大得多,塊大小的設定用來將大檔案切割成一個資料塊,再將這些資料塊分發到叢集上,例如叢集的塊大小設定為64MB,一個128MB的檔案上傳到HDFS上,HDFS會將這個檔案切分成2(128/64)個資料塊,再將這兩塊資料分發到叢集的資料節點上。
設定塊大小:
開啟hdfs-site.xml,(在hadoop安裝目錄下的conf資料夾裡)
操作步驟:
設定hdfs-site.xml下面的屬性值:
<property>
<name>dfs.block.size</name>
<value>134217728</value>    --修改為128M
<description>Block size</description>
</property>


修改說明:
hdfs-site.xml是HDFS的配置檔案,修改hdfs-site.xml配置檔案的dfs.block.size屬性值就會改變上傳到HDFS所有檔案的預設塊大小。修改這個值並不會對HDFS上現存的任何檔案的塊大小產生影響,只會改變新上傳檔案的塊大小。

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/15498/viewspace-2136139/,如需轉載,請註明出處,否則將追究法律責任。

相關文章