hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
一个可以找出源代码中所有中文的工具
Oct 25 PHP
php 常用类汇总 推荐收藏
May 13 PHP
第六章 php目录与文件操作
Dec 30 PHP
php获取服务器信息的实现代码
Feb 04 PHP
php生成随机字符串可指定纯数字、纯字母或者混合的
Apr 18 PHP
ThinkPHP的模版中调用session数据的方法
Jul 01 PHP
如何使用PHP Embed SAPI实现Opcodes查看器
Nov 10 PHP
laravel学习笔记之模型事件的几种用法示例
Aug 15 PHP
PHP学习记录之数组函数
Jun 01 PHP
PHP iconv()函数字符编码转换的问题讲解
Mar 22 PHP
php连接sftp的作用以及实例代码
Sep 23 PHP
基于PHP实现邮箱验证激活过程详解
Oct 28 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
PHP学习之数组的定义和填充
2011/04/17 PHP
php.ini 配置文件的深入解析
2013/06/17 PHP
使用php显示搜索引擎来的关键词
2014/02/13 PHP
PHP获取中英混合字符串长度的方法
2014/06/07 PHP
yii2控制器Controller Ajax操作示例
2016/07/23 PHP
javascript 支持链式调用的异步调用框架Async.Operation
2009/08/04 Javascript
JS 动态获取节点代码innerHTML分析 [IE,FF]
2009/11/30 Javascript
jQuery学习2 选择器的使用说明
2010/02/07 Javascript
replace()方法查找字符使用示例
2013/10/28 Javascript
js中window.open打开一个新的页面
2014/08/10 Javascript
node.js中的url.format方法使用说明
2014/12/10 Javascript
多功能jQuery树插件zTree实现权限列表简单实例
2016/07/12 Javascript
jquery pagination分页插件使用详解(后台struts2)
2017/01/22 Javascript
jQuery实现在HTML文档加载完毕后自动执行某个事件的方法
2017/05/08 jQuery
详解基于Node.js的微信JS-SDK后端接口实现代码
2017/07/15 Javascript
jQuery中的$是什么意思及 $. 和 $().的区别
2018/04/20 jQuery
详解VUE中常用的几种import(模块、文件)引入方式
2018/07/03 Javascript
Vue组件教程之Toast(Vue.extend 方式)详解
2019/01/27 Javascript
electron-vue开发环境内存泄漏问题汇总
2019/10/10 Javascript
js页面加载后执行的几种方式小结
2020/01/30 Javascript
nodejs中使用worker_threads来创建新的线程的方法
2021/01/22 NodeJs
vue中h5端打开app(判断是安卓还是苹果)
2021/02/26 Vue.js
pycharm 使用心得(一)安装和首次使用
2014/06/05 Python
Python中super的用法实例
2015/05/28 Python
Python魔法方法 容器部方法详解
2020/01/02 Python
python实现根据给定坐标点生成多边形mask的例子
2020/02/18 Python
Python实现检测文件的MD5值来查找重复文件案例
2020/03/12 Python
使用python实现下载我们想听的歌曲,速度超快
2020/07/09 Python
人力资源行政经理自我评价
2013/10/23 职场文书
测绘工程个人的自我评价
2013/11/10 职场文书
幼儿园安全生产月活动总结
2014/07/05 职场文书
技术支持岗位职责
2015/02/13 职场文书
全国爱眼日活动总结
2015/02/27 职场文书
谢师宴家长答谢词
2015/09/30 职场文书
Pandas-DataFrame知识点汇总
2022/03/16 Python
APP界面设计技巧和注意事项
2022/04/29 杂记