hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
dede3.1分页文字采集过滤规则详说(图文教程)
Apr 03 PHP
PHP 读取文件的正确方法
Apr 29 PHP
PHP中用正则表达式清除字符串的空白
Jan 17 PHP
深入PHP变量存储的详解
Jun 13 PHP
PHP中的命名空间详细介绍
Jul 02 PHP
PHP微信开发之有道翻译
Jun 23 PHP
php版微信开发之接收消息,自动判断及回复相应消息的方法
Sep 23 PHP
PHPMailer发送邮件
Dec 28 PHP
PHP5.0~5.6 各版本兼容性cURL文件上传功能实例分析
May 11 PHP
Laravel 之url参数,获取路由参数的例子
Oct 21 PHP
Yii使用EasyWechat实现小程序获取用户的openID的方法
Apr 29 PHP
PHP 实现重载
Mar 09 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
thinkphp3.0 模板中函数的使用
2012/11/13 PHP
PHP网页游戏学习之Xnova(ogame)源码解读(一)
2014/06/23 PHP
thinkphp框架下实现登录、注册、找回密码功能
2016/04/06 PHP
laravel 根据不同组织加载不同视图的实现
2019/10/14 PHP
thinkphp框架表单数组实现图片批量上传功能示例
2020/04/04 PHP
js中将URL中的参数提取出来作为对象的实现代码
2011/08/16 Javascript
js实现一个省市区三级联动选择框代码分享
2013/03/06 Javascript
提高jQuery性能的十个诀窍
2013/11/14 Javascript
nodejs URL模块操作URL相关方法介绍
2015/03/03 NodeJs
JQuery选中checkbox方法代码实例(全选、反选、全不选)
2015/04/27 Javascript
学习JavaScript设计模式之中介者模式
2016/01/14 Javascript
用JS动态改变表单form里的action值属性的两种方法
2016/05/25 Javascript
深入理解javascript的getTime()方法
2017/02/16 Javascript
详解vue2.0组件通信各种情况总结与实例分析
2017/03/22 Javascript
js Dom实现换肤效果
2017/10/21 Javascript
javascript将json格式数组下载为excel表格的方法
2017/12/22 Javascript
微信小程序结合mock.js实现后台模拟及调试
2019/03/28 Javascript
JS隐藏号码中间4位代码实例
2019/04/09 Javascript
详解微信小程序网络请求接口封装实例
2019/05/02 Javascript
详解微信小程序胶囊按钮返回|首页自定义导航栏功能
2019/06/14 Javascript
python映射列表实例分析
2015/01/26 Python
修改Python的pyxmpp2中的主循环使其提高性能
2015/04/24 Python
Python计算一个文件里字数的方法
2015/06/15 Python
Python简单生成8位随机密码的方法
2017/05/24 Python
Python简单读取json文件功能示例
2017/11/30 Python
深入学习python多线程与GIL
2019/08/26 Python
python全局变量引用与修改过程解析
2020/01/07 Python
python多项式拟合之np.polyfit 和 np.polyld详解
2020/02/18 Python
Python爬虫:Request Payload和Form Data的简单区别说明
2020/04/30 Python
CSS3 box-sizing属性详解
2016/11/15 HTML / CSS
个人简历自我评价
2014/02/02 职场文书
物业管理毕业生的自我评价
2014/02/17 职场文书
贫困证明模板(3篇)
2014/09/16 职场文书
2016年教师政治思想表现评语
2015/12/02 职场文书
2019年入党思想汇报
2019/03/25 职场文书
Mysql中mvcc各场景理解应用
2022/08/05 MySQL