hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
操作Oracle的php类
Oct 09 PHP
php5中类的学习
Mar 28 PHP
php 操作数组(合并,拆分,追加,查找,删除等)
Jul 20 PHP
thinkphp缓存技术详解
Dec 09 PHP
浅谈php命令行用法
Feb 04 PHP
深入解析PHP的Yii框架中的event事件机制
Mar 17 PHP
降低PHP Redis内存占用
Mar 23 PHP
CI框架(CodeIgniter)实现的导入、导出数据操作示例
May 24 PHP
php 下 html5 XHR2 + FormData + File API 上传文件操作实例分析
Feb 28 PHP
使用Rancher在K8S上部署高性能PHP应用程序的教程
Jul 10 PHP
PHP常用header头定义代码示例汇总
Aug 29 PHP
通过代码实例解析PHP session工作原理
Dec 11 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
function.inc.php超越php
2006/12/09 PHP
php调整gif动画图片尺寸示例代码分享
2013/12/05 PHP
推荐一款MAC OS X 下php集成开发环境mamp
2014/11/08 PHP
php利用递归实现删除文件目录的方法
2016/09/23 PHP
轻松掌握php设计模式之访问者模式
2016/09/23 PHP
网页图片延时加载的js代码
2010/04/22 Javascript
js 程序执行与顺序实现详解
2013/05/13 Javascript
JavaScript获取各大浏览器信息图示
2015/11/20 Javascript
jquery实现无刷新验证码的简单实例
2016/05/19 Javascript
AngularJs基本特性解析(一)
2016/07/21 Javascript
Highcharts学习之数据列
2016/08/03 Javascript
jQuery extend()详解及简单实例
2017/05/06 jQuery
Bootstrap fileinput文件上传预览插件使用详解
2017/05/16 Javascript
Vue-cli创建项目从单页面到多页面的方法
2017/09/20 Javascript
vue中datepicker的使用教程实例代码详解
2019/07/08 Javascript
如何实现小程序与小程序之间的跳转
2020/11/04 Javascript
[02:33]2018 DOTA2亚洲邀请赛回顾视频 再次拾起那些美妙的时刻
2018/04/10 DOTA
python查找第k小元素代码分享
2013/12/18 Python
Python使用正则表达式实现文本替换的方法
2017/04/18 Python
Python 和 JS 有哪些相同之处
2017/11/23 Python
pandas每次多Sheet写入文件的方法
2018/12/10 Python
Python常用模块之requests模块用法分析
2019/05/15 Python
使用python创建Excel工作簿及工作表过程图解
2020/05/27 Python
HTML5网页音乐播放器的示例代码
2017/11/09 HTML / CSS
美国著名的品牌折扣店:Burlington
2017/06/08 全球购物
jurlique茱莉蔻英国官网:澳洲天然护肤品
2018/08/03 全球购物
Regatta官网:英国最受欢迎的户外服装和鞋类品牌
2019/05/01 全球购物
在阿尔卑斯山或希腊度过快乐假期:Alpine Elements
2019/12/28 全球购物
军训的自我鉴定
2013/12/10 职场文书
学生手册家长评语
2014/02/10 职场文书
机关节能减排实施方案
2014/03/17 职场文书
安全口号大全
2014/06/21 职场文书
小学生国庆节演讲稿
2014/09/05 职场文书
2014年安全工作总结范文
2014/11/13 职场文书
大学生创业计划书常用模板
2019/08/07 职场文书
竞聘演讲报告:基本写作有哪些?附开头范文
2019/10/16 职场文书