記一次 Centos7.x Hadoop 3.x HDFS 寫入檔案
操作目的
1、在Linux環境下 編寫HDFS寫檔案程式的java檔案
2、編譯並打包HDFS的寫程式
3、執行HDFS的寫程式
環境、工具說明
1、先搭建一個 Hadoop 的基礎叢集環境
參考:Hadoop叢集搭建
2、JDK版本:jdk1.8
安裝配置過程
3、工具:xshell5
4、VMware 版本:VMware Workstation Pro15
5、Hadoop:3.3.0
在clinet節點上編寫HDFS寫程式
1、在將要編寫 java 程式的節點上配置環境變數
此處我選擇了 slave1 節點
[root@slave1 ~]# vim /etc/profile
在最後寫入如下內容
export JAVA_HOME="/usr/lib/jvm/java-1.8.0"
export JRE_HOME="/usr/lib/jvm/java-1.8.0/jre"
export HADOOP_HOME="/usr/bigdata/hadoop-3.3.0"
export PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin
export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$HADOOP_HOME/share/hadoop/common/*:$HADOOP_HOME/share/hadoop/common/lib/*
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export HADOOP_HDFS_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib:$HADOOP_HOME/lib/native"
使配置的環境變數生效
[root@slave1 ~]# source /etc/profile
2、編寫檔案 WriteFile.java
編輯檔案
[root@slave1 opt]# vim /opt/WriteFile.java
寫入內容
import java.io.IOException;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class WriteFile {
public static void main(String[] args) throws IOException {
Configuration conf = new Configuration();
FileSystem hdfs = FileSystem.get(conf);
Path dfs = new Path("/HelloHadoop.txt");
FSDataOutputStream outputStream = hdfs.create(dfs);
outputStream.writeUTF("HDFS基礎操作,新建檔案,並寫入內容。");
outputStream.close();
}
}
2、編譯並打包程式 WriteFile.java
[root@slave1 opt]# javac WriteFile.java
檢視目錄
打包
[root@slave1 opt]# jar -cvf WriteFile.jar WriteFile.class
檢視
3、使用 hadoop 的 jar 命令執行 WriteFile.jar
[root@slave1 opt]# hadoop jar ./WriteFile.jar WriteFile
4、檢視在 HDFS 建立的檔案
[root@slave1 opt]# hadoop fs -ls /
或
[root@slave1 opt]# hdfs dfs -ls /
5、檢視檔案內容
[root@slave1 opt]# hadoop fs -cat /HelloHadoop.txt
或
[root@slave1 opt]# hdfs dfs -cat /HelloHadoop.txt
至此 Centos7.x Hadoop 3.x HDFS 寫入檔案操作完畢,希望能夠對您有所幫助!
相關文章
- Hadoop之HDFS檔案讀寫流程說明Hadoop
- Hadoop 入門筆記—核心元件 HDFSHadoop筆記元件
- Hadoop 系列(一)—— 分散式檔案系統 HDFSHadoop分散式
- Hadoop hdfs上傳檔案報錯解決Hadoop
- 【大資料】【hadoop】檢視hdfs檔案命令大資料Hadoop
- Hadoop學習(一)——HDFS分散式檔案系統Hadoop分散式
- Hadoop基礎(一):分散式檔案系統HDFSHadoop分散式
- Hadoop學習筆記—HDFSHadoop筆記
- 【Hadoop踩坑】HDFS上傳、刪除檔案失敗Hadoop
- Hadoop 基礎之 HDFS 入門Hadoop
- Hadoop的HDFS架構入門Hadoop架構
- 建立HDFS,匯入HADOOP jar包HadoopJAR
- Hadoop 基石HDFS 一文了解檔案儲存系統Hadoop
- Hadoop分散式檔案系統(HDFS)會不會被淘汰?Hadoop分散式
- Hadoop–HDFSHadoop
- Hadoop HDFS分散式檔案系統 常用命令彙總Hadoop分散式
- Hadoop大資料實戰系列文章之HDFS檔案系統Hadoop大資料
- Hadoop 三劍客之 —— 分散式檔案儲存系統 HDFSHadoop分散式
- hadoop實戰4--(hdfs讀流程,hdfs寫流程,副本放置策略)Hadoop
- Hadoop HDFS(一)Hadoop
- Hadoop HDFS(二)Hadoop
- Java HDFS API 追加檔案寫入內容異常問題的解決JavaAPI
- 掃盲:Hadoop分散式檔案系統(HDFS)基礎概念講解!Hadoop分散式
- Hadoop3.2.1 【 HDFS 】原始碼分析 : 檔案系統資料集 [一]Hadoop原始碼
- Hadoop入門(二)之 HDFS 詳細解析Hadoop
- PHP寫入檔案PHP
- day5 hadoop hdfs知識筆記Hadoop筆記
- hdfs小檔案分析
- Hadoop框架:HDFS讀寫機制與API詳解Hadoop框架API
- HDFS架構指南(分散式系統Hadoop的檔案系統架構)架構分散式Hadoop
- Linux-檔案寫入和檔案同步Linux
- python 寫入CSV檔案Python
- 追加寫入json檔案JSON
- 如何將日誌檔案和二進位制檔案快速匯入HDFS?
- Hadoop檢視檔案///hadoop 清洗檔案出現亂碼Hadoop
- 讀取檔案流並寫入檔案流
- 設定root使用者有寫入和查詢hdfs上面檔案的許可權
- 【HDFS】HADOOP DISTRIBUTED FILE SYSTEMHadoop