MapReduce程式設計例項之自定義排序
任務描述:
給出一組資料,自定義排序的樣式,第一列降序,相同時第二列升序
example Data:
2013 1
2013 5
2014 5
2014 8
2015 9
2015 4
Code:
package mrTest;
import java.io.DataInput;
import java.io.DataOutput;
import java.io.IOException;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.io.WritableComparable;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
public class zidingyiSort {
public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {
// TODO Auto-generated method stub
Job job = new Job();
job.setJarByClass(zidingyiSort.class);
// 1
FileInputFormat.setInputPaths(job, new Path(args[0]));
// 2
job.setMapperClass(Map.class);
job.setMapOutputKeyClass(MyK2.class);
job.setMapOutputValueClass(LongWritable.class);
// 3
// 4
// 5
job.setNumReduceTasks(1);
// 6
job.setReducerClass(Reduce.class);
job.setOutputKeyClass(LongWritable.class);
job.setOutputValueClass(LongWritable.class);
// 7
FileOutputFormat.setOutputPath(job, new Path(args[1]));
// 8
System.exit(job.waitForCompletion(true)? 0 :1 );
}
public static class Map extends Mapper<Object, Text, MyK2, LongWritable>{
public void map(Object key, Text value, Context context) throws IOException, InterruptedException{
String line = value.toString();
String[] split = line.split("\t");
MyK2 my = new MyK2(Long.parseLong(split[0]), Long.parseLong(split[1]));
context.write(my, new LongWritable(1));
}
}
public static class Reduce extends Reducer<MyK2, LongWritable, LongWritable, LongWritable>{
public void reduce(MyK2 key, Iterable<LongWritable> values, Context context) throws IOException, InterruptedException{
context.write(new LongWritable(key.myk2), new LongWritable(key.myv2));
}
}
public static class MyK2 implements WritableComparable<MyK2>{
public long myk2;
public long myv2;
MyK2(){}
MyK2(long myk2, long myv2){
this.myk2 = myk2;
this.myv2 = myv2;
}
@Override
public void readFields(DataInput in) throws IOException {
// TODO Auto-generated method stub
this.myk2 = in.readLong();
this.myv2 = in.readLong();
}
@Override
public void write(DataOutput out) throws IOException {
// TODO Auto-generated method stub
out.writeLong(myk2);
out.writeLong(myv2);
}
@Override
public int compareTo(MyK2 myk2) {
// TODO Auto-generated method stub
//myk2之差>0 返回-1 <0 返回1 代表 myk2列降序
//myk2之差<0 返回-1 >0 返回1 代表 myk2列升序
long temp = this.myk2 - myk2.myk2;
if(temp>0)
return -1;
else if(temp<0)
return 1;
//控制myv2升序
return (int)(this.myv2 - myk2.myv2);
}
}
}
效果展示:
2015 4
2015 9
2014 5
2014 8
2013 1
2013 5
相關文章
- MapReduce程式設計例項之自定義分割槽程式設計
- MapReduce程式設計例項之倒排索引 1程式設計索引
- MapReduce程式設計例項之資料去重程式設計
- MapReduce程式設計實踐之自定義資料型別程式設計資料型別
- MapReduce之自定義OutputFormatORM
- MapReduce之自定義InputFormatORM
- MapReduce之自定義partitioner
- css自定義列表計數程式碼例項CSS
- MapReduce之自定義分割槽器Partitioner
- jQuery自定義標籤程式碼例項jQuery
- jquery自定義事件簡單例項程式碼jQuery事件單例
- 一個單詞統計的例項,怎樣通過MapReduce完成排序?排序
- 自定義右鍵導航選單程式碼例項
- CSS自定義滑鼠指標形狀程式碼例項CSS指標
- css自定義滑鼠指標圖示程式碼例項CSS指標
- Hadoop-MapReduce之自定義資料型別Hadoop資料型別
- 【例項】PowerQuery的自定義日曆
- django自定義過濾器例項Django過濾器
- MapReduce之WritableComparable排序排序
- js自定義回撥函式簡單程式碼例項JS函式
- node.js實現的自定義事件程式碼例項Node.js事件
- Jmeter beanshell程式設計例項JMeterBean程式設計
- 設計模式例項程式碼設計模式
- KafKa Java程式設計例項KafkaJava程式設計
- Java 經典例項:自定義迭代器Java
- Android 自定義 TabActivity 的例項方法Android
- MySQL自定義排序MySql排序
- SQL自定義排序SQL排序
- Android 程式設計程式碼-自定義 ToastAndroid程式設計AST
- css3自定義滾動條樣式程式碼例項CSSS3
- css自定義單選按鈕的樣式程式碼例項CSS
- 自定義滑鼠懸浮連結彈出提示程式碼例項
- MapReduce--程式設計模板程式設計
- 多個mapreduce連線例項
- Shell程式設計入門例項程式設計
- Qt 中Socket程式設計例項QT程式設計
- android socket程式設計例項Android程式設計
- The MySQL C API程式設計例項MySqlAPI程式設計