hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
繁体中文转换为简体中文的PHP函数
Oct 09 PHP
PHP文件读写操作之文件读取方法详解
Jan 13 PHP
php中获取关键词及所属来源搜索引擎名称的代码
Feb 15 PHP
php一个找二层目录的小东东
Aug 02 PHP
如何使用PHP获取指定日期所在月的开始日期与结束日期
Aug 01 PHP
PHP 只允许指定IP访问(允许*号通配符过滤IP)
Jul 08 PHP
php文件缓存类汇总
Nov 21 PHP
PHP树-不需要递归的实现方法
Jun 21 PHP
PHP利用Socket获取网站的SSL证书与公钥
Jun 18 PHP
Laravel实现定时任务的示例代码
Aug 10 PHP
学习thinkphp5.0验证类使用方法
Nov 16 PHP
php设计模式之观察者模式实例详解【星际争霸游戏案例】
Mar 30 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
PHP取进制余数函数代码
2012/01/19 PHP
PHP中的正则表达式函数介绍
2012/02/27 PHP
PHP实现的最大正向匹配算法示例
2017/12/19 PHP
Ctrl+Enter提交内容信息
2006/06/26 Javascript
两种常用的javascript数组去重方法思路及代码
2013/03/26 Javascript
Javascript节点关系实例分析
2015/05/15 Javascript
使用smartupload组件实现jsp+jdbc上传下载文件实例解析
2017/01/05 Javascript
javascript 中设置window.location.href跳转无效问题解决办法
2017/02/09 Javascript
详解用node-images 打造简易图片服务器
2017/05/08 Javascript
JavaScript数据结构之优先队列与循环队列实例详解
2017/10/27 Javascript
nodejs+mongodb+vue前后台配置ueditor的示例代码
2018/01/02 NodeJs
JS运动特效之任意值添加运动的方法分析
2018/01/24 Javascript
Vue封装一个简单轻量的上传文件组件的示例
2018/03/21 Javascript
Vue.Draggable拖拽功能的配置使用方法
2020/07/29 Javascript
vue插槽slot的理解和使用方法
2019/04/03 Javascript
vue-model实现简易计算器
2020/08/17 Javascript
JS+CSS实现炫酷光感效果
2020/09/05 Javascript
swiper自定义分页器的样式
2020/09/14 Javascript
antd的select下拉框因为数据量太大造成卡顿的解决方式
2020/10/31 Javascript
详解使用python的logging模块在stdout输出的两种方法
2017/05/17 Python
Python中创建二维数组
2018/10/17 Python
搞定这套Python爬虫面试题(面试会so easy)
2019/04/03 Python
使用python获取(宜宾市地震信息)地震信息
2019/06/20 Python
css3实现信纸/同学录效果的示例代码
2018/12/11 HTML / CSS
惠普美国官方商店:HP Official Store
2016/08/28 全球购物
SmartBuyGlasses美国官网:太阳眼镜和眼镜
2017/08/20 全球购物
JD Sports澳洲官网:英国领先的运动鞋和运动时尚零售商
2020/02/15 全球购物
毕业生实习鉴定
2013/12/11 职场文书
简历的个人自我评价范文
2014/01/03 职场文书
创业资金计划书
2014/02/06 职场文书
《在山的那边》教学反思
2014/02/23 职场文书
2014年计划生育工作总结
2014/11/14 职场文书
西部计划志愿者工作总结
2015/08/11 职场文书
Java并发编程之Executor接口的使用
2021/06/21 Java/Android
Oracle 临时表空间SQL语句的实现
2021/09/25 Oracle
Python中time与datetime模块使用方法详解
2022/03/31 Python