hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
php简单封装了一些常用JS操作
Feb 25 PHP
PHP strtr() 函数使用说明
Nov 21 PHP
THINKPHP+JS实现缩放图片式截图的实现
Mar 07 PHP
TMDPHP 模板引擎使用教程
Mar 13 PHP
基于Zend的Captcha机制的应用
May 02 PHP
一个基于phpQuery的php通用采集类分享
Apr 09 PHP
PHP 5.3和PHP 5.4出现FastCGI Error解决方法
Feb 12 PHP
教你php如何实现验证码
Jan 20 PHP
PHP基于openssl实现的非对称加密操作示例
Jan 11 PHP
Centos7安装swoole扩展操作示例
Mar 26 PHP
ThinkPHP5框架中使用JWT的方法示例
Jun 03 PHP
PHP生成随机密码4种方法及性能对比
Dec 11 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
第十节 抽象方法和抽象类 [10]
2006/10/09 PHP
PHP通过COM使用ADODB的简单例子
2006/12/31 PHP
php checkbox 取值详细说明
2010/08/19 PHP
PHP 动态生成静态HTML页面示例代码
2014/01/15 PHP
用 Composer构建自己的 PHP 框架之使用 ORM
2014/10/30 PHP
JavaScript delete操作符应用实例
2009/01/13 Javascript
16个最流行的JavaScript框架[推荐]
2011/05/29 Javascript
获得所有表单值的JQuery实现代码[IE暂不支持]
2012/05/24 Javascript
window.open打开页面居中显示的示例代码
2013/12/27 Javascript
JS字符串截取函数实例
2013/12/27 Javascript
jQuery异步加载数据并添加事件示例
2014/08/24 Javascript
两种方法基于jQuery实现IE浏览器兼容placeholder效果
2014/10/14 Javascript
谈谈JSON对象和字符串之间的相互转换JSON.stringify(obj)和JSON.parse(string)
2015/10/01 Javascript
jQuery ajax时间差导致的变量赋值问题分析
2016/01/22 Javascript
Angular中$broadcast和$emit的使用方法详解
2017/05/22 Javascript
vue里的data要用return返回的原因浅析
2019/05/28 Javascript
[05:01]3.19DOTA2发布会 我们都是刀塔人
2014/03/25 DOTA
python教程之用py2exe将PY文件转成EXE文件
2014/06/12 Python
Python简明入门教程
2015/08/04 Python
Python模拟百度登录实例详解
2016/01/20 Python
Python实现简易端口扫描器代码实例
2017/03/15 Python
Python探索之修改Python搜索路径
2017/10/25 Python
利用Python实现在同一网络中的本地文件共享方法
2018/06/04 Python
python 叠加等边三角形的绘制的实现
2019/08/14 Python
python中enumerate() 与zip()函数的使用比较实例分析
2019/09/03 Python
python实现XML解析的方法解析
2019/11/16 Python
python爬虫实现爬取同一个网站的多页数据的实例讲解
2021/01/18 Python
python脚本使用阿里云slb对恶意攻击进行封堵的实现
2021/02/04 Python
网络程序员自荐信
2014/01/25 职场文书
《燕子专列》教学反思
2014/02/21 职场文书
试用期自我鉴定范文
2014/03/20 职场文书
个人股份转让协议书范本
2014/10/26 职场文书
2014年文秘工作总结
2014/11/25 职场文书
党支部2014年度工作总结
2014/12/04 职场文书
2015年高中班主任工作总结
2015/04/30 职场文书
一起来看看Vue的核心原理剖析
2022/03/24 Vue.js