hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
DedeCms模板安装/制作概述
Mar 11 PHP
php中iconv函数使用方法
May 24 PHP
php中时间轴开发(刚刚、5分钟前、昨天10:23等)
Oct 03 PHP
php+ajax导入大数据时产生的问题处理
Jun 11 PHP
深入浅析PHP7.0新特征(五大新特征)
Oct 29 PHP
Linux下从零开始安装配置Nginx服务器+PHP开发环境
Dec 21 PHP
Yii实现Command任务处理的方法详解
Jul 14 PHP
php基于单例模式封装mysql类完整实例
Oct 18 PHP
thinkPHP5框架中widget的功能与用法详解
Jun 11 PHP
php微信开发之关键词回复功能
Jun 13 PHP
PHP解决高并发的优化方案实例
Dec 10 PHP
PHP连接MSSQL数据库案例,PHPWAMP多个PHP版本连接SQL Server数据库
Apr 16 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
聊天室php&amp;mysql(一)
2006/10/09 PHP
PHP 使用pcntl和libevent 实现Timer功能
2013/10/27 PHP
PHP+jquery实时显示网站在线人数的方法
2015/01/04 PHP
php实现httpRequest的方法
2015/03/13 PHP
PHP底层运行机制与工作原理详解
2020/07/31 PHP
JavaScript中的apply()方法和call()方法使用介绍
2012/07/25 Javascript
node.js中的fs.symlink方法使用说明
2014/12/15 Javascript
js获取json元素数量的方法
2015/01/27 Javascript
jQuery事件绑定用法详解(附bind和live的区别)
2016/01/19 Javascript
javascript轮播图算法
2016/10/21 Javascript
微信小程序 wx.uploadFile在安卓手机上面the same task is working问题解决
2016/12/14 Javascript
Vue中的slot使用插槽分发内容的方法
2018/03/01 Javascript
详解使用uni-app开发微信小程序之登录模块
2019/05/09 Javascript
vue 实现Web端的定位功能 获取经纬度
2019/08/08 Javascript
ES6基础之字符串和函数的拓展详解
2019/08/22 Javascript
微信小程序class封装http代码实例
2019/08/24 Javascript
JS apply用法总结和使用场景实例分析
2020/03/14 Javascript
浅谈Vue 函数式组件的使用技巧
2020/06/16 Javascript
Ant Design的Table组件去除
2020/10/24 Javascript
JS实现超级好看的鼠标小尾巴特效
2020/12/01 Javascript
python计算牛顿迭代多项式实例分析
2015/05/07 Python
自动化Nginx服务器的反向代理的配置方法
2015/06/28 Python
Python使用pip安装报错:is not a supported wheel on this platform的解决方法
2018/01/23 Python
python如何实现数据的线性拟合
2019/07/19 Python
python实现猜数字游戏
2020/03/25 Python
PyCharm 2019.3发布增加了新功能一览
2019/12/08 Python
Django app配置多个数据库代码实例
2019/12/17 Python
OpenCV python sklearn随机超参数搜索的实现
2020/01/17 Python
Python动态导入模块:__import__、importlib、动态导入的使用场景实例分析
2020/03/30 Python
基于python实现检索标记敏感词并输出
2020/05/07 Python
本科毕业自我鉴定
2014/03/20 职场文书
县政府办公室领导班子个人对照检查材料
2014/09/16 职场文书
党员批评与自我批评(5篇)
2014/09/23 职场文书
2014年党总支工作总结
2014/12/18 职场文书
故意伤害罪辩护词
2015/05/21 职场文书
基石观后感
2015/06/12 职场文书