MapReduce文件切分个数计算方法
Hadoop的MapReduce计算的第一个阶段是InputFormat处理的，先将文件进行切分，然后将每个切 … Read more MapReduce文件切分个数计算方法
hadoop
shell/hadoop/hive一些有用命令收集
有些命令工作中经常用到，记录在一个文章里用于查阅，本文经常更新。 shell命令 linux统计某个目录下所有 … Read more shell/hadoop/hive一些有用命令收集
hadoop第一个程序WordCount.java的编译运行过程
java是hadoop开发的标准官方语言，本文下载了官方的WordCount.java并对其进行了编译和打包， … Read more hadoop第一个程序WordCount.java的编译运行过程
Hadoop-Streaming实战经验及问题解决方法总结
目录 1. Join操作分清join的类型很重要… 2. 启动程序中key字段和partit … Read more Hadoop-Streaming实战经验及问题解决方法总结
Hadoop之使用python实现数据集合间join操作
文章分析了hadoop借助streaming功能借助python完成map reduce的功能，并对集合间join操作的需求进行阐述，然后进行了具体实例代码的编写，同时对join操作进行了归类和易采坑的总结。