hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
改变Apache端口等配置修改方法
Jun 05 PHP
Php 构造函数construct的前下划线是双的_
Dec 08 PHP
使用PHP获取网络文件的实现代码
Jan 01 PHP
php设计模式 FlyWeight (享元模式)
Jun 26 PHP
apache+codeigniter 通过.htcaccess做动态二级域名解析
Jul 01 PHP
php的POSIX 函数以及进程测试的深入分析
Jun 03 PHP
web server使用php生成web页面的三种方法总结
Oct 28 PHP
PHP表单提交后引号前自动加反斜杠的原因及三种办法关闭php魔术引号
Sep 30 PHP
php实现异步将远程链接上内容(图片或内容)写到本地的方法
Nov 30 PHP
php获取当前月与上个月月初及月末时间戳的方法
Dec 05 PHP
laravel中数据显示方法(默认值和下拉option默认选中)
Oct 11 PHP
tp5框架使用cookie加密算法实现登录功能示例
Feb 10 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
为什么夜间收到的中波电台比白天多
2021/03/01 无线电
php源码分析之DZX1.5随机数函数random用法
2015/06/17 PHP
PHP 对象接口简单实现方法示例
2020/04/13 PHP
javascript dom 操作详解 js加强
2009/07/13 Javascript
jquery之empty()与remove()区别说明
2010/09/10 Javascript
JavaScript中链式调用之研习
2011/04/07 Javascript
ajax不执行success回调而是执行了error回调
2012/12/10 Javascript
JS获取及设置TextArea或input文本框选择文本位置的方法
2015/03/24 Javascript
JavaScript实现获得所有兄弟节点的方法
2015/07/23 Javascript
关于获取DIV内部内容报错的原因分析及解决办法
2016/01/29 Javascript
深入解析Vue 组件命名那些事
2017/07/18 Javascript
javascript实现文字无缝滚动效果
2017/08/26 Javascript
vue2.x+webpack快速搭建前端项目框架详解
2017/11/30 Javascript
解决Vue 通过下表修改数组,页面不渲染的问题
2018/03/08 Javascript
WebPack配置vue多页面的技巧
2018/05/15 Javascript
vsCode安装使用教程和插件安装方法
2020/08/24 Javascript
详解微信小程序支付流程与梳理
2019/07/16 Javascript
Layui 数据表格批量删除和多条件搜索的实例
2019/09/04 Javascript
[49:31]TFT vs Mski Supermajor小组赛C组 BO3 第一场 6.3
2018/06/04 DOTA
[00:59]DOTA2背景故事第二期之四大基本法则
2020/07/07 DOTA
Python爬虫抓取手机APP的传输数据
2016/01/22 Python
Python拼接微信好友头像大图的实现方法
2018/08/01 Python
一文带你了解Python中的字符串是什么
2018/11/20 Python
Python读取Pickle文件信息并计算与当前时间间隔的方法分析
2019/01/30 Python
python3获取文件中url内容并下载代码实例
2019/12/27 Python
python输入中文的实例方法
2020/09/14 Python
css3 border旋转时的动画应用
2016/01/22 HTML / CSS
adidas爱尔兰官方网站:阿迪达斯运动鞋和运动服
2019/11/01 全球购物
八皇后问题,输出了所有情况,不过有些结果只是旋转了90度
2016/08/15 面试题
教学大赛获奖感言
2014/01/15 职场文书
本科毕业生专业自荐书范文
2014/02/05 职场文书
《梅兰芳学艺》教学反思
2014/02/24 职场文书
个人求职信格式范文
2015/03/20 职场文书
幼儿园亲子活动通知
2015/04/24 职场文书
企业法律事务工作总结
2015/08/11 职场文书
2016年基层党组织公开承诺书
2016/03/25 职场文书