hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
一个图形显示IP的PHP程序代码
Oct 19 PHP
PHP遍历某个目录下的所有文件和子文件夹的实现代码
Jun 28 PHP
PHP5中GD库生成图形验证码(有汉字)
Jul 28 PHP
深入分析PHP优化及注意事项
Jul 04 PHP
PHP微信开发用Cache 解决数据缓存
Jul 11 PHP
中高级PHP程序员应该掌握哪些技术?
Sep 23 PHP
php通过执行CutyCapt命令实现网页截图的方法
Sep 30 PHP
PHP GD库相关图像生成和处理函数小结
Sep 30 PHP
PHP实现一个简单url路由功能实例
Nov 05 PHP
ThinkPHP实现分页功能
Apr 28 PHP
PHP的PDO事务与自动提交
Jan 24 PHP
php use和include区别总结
Oct 13 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
用PHP和MySQL保存和输出图片
2006/10/09 PHP
用PHP连接Oracle数据库
2006/10/09 PHP
PHP 程序授权验证开发思路
2009/07/09 PHP
jquery 利用show和hidden实现级联菜单示例代码
2013/08/09 Javascript
Javascript中Event属性搜集整理
2013/09/17 Javascript
在JavaScript中使用开平方根的sqrt()方法
2015/06/15 Javascript
jQuery实现hover合成事件的方法
2015/08/06 Javascript
网页从弹窗页面单选框传值至父页面代码分享
2015/09/29 Javascript
谈一谈javascript中继承的多种方式
2016/02/19 Javascript
jQuery实现下拉框左右移动(全部移动,已选移动)
2016/04/15 Javascript
Bootstrap每天必学之弹出框(Popover)插件
2016/04/25 Javascript
RequireJS简易绘图程序开发
2016/10/28 Javascript
JavaScript实现简单的星星评分效果
2017/05/18 Javascript
利用jquery去掉时光轴头尾部线条的方法实例
2017/06/16 jQuery
vuejs手把手教你写一个完整的购物车实例代码
2017/07/06 Javascript
JS实现访问DOM对象指定节点的方法示例
2018/04/04 Javascript
js实现div色块碰撞
2020/01/16 Javascript
[13:25]VP vs VICI (BO3)
2018/06/07 DOTA
Python检测生僻字的实现方法
2016/10/23 Python
完美解决Pycharm无法导入包的问题 Unresolved reference
2018/05/18 Python
对python中数组的del,remove,pop区别详解
2018/11/07 Python
使用turtle绘制五角星、分形树
2019/10/06 Python
TensorFlow绘制loss/accuracy曲线的实例
2020/01/21 Python
Tensorflow: 从checkpoint文件中读取tensor方式
2020/02/10 Python
python爬虫开发之使用python爬虫库requests,urllib与今日头条搜索功能爬取搜索内容实例
2020/03/10 Python
Python获取对象属性的几种方式小结
2020/03/12 Python
美国知名保健品网站:LuckyVitamin(支持中文)
2017/08/09 全球购物
美国领先的在线邮轮旅游公司:CruiseDirect
2018/06/07 全球购物
意外伤害赔偿协议书范文
2014/09/23 职场文书
先进单位申报材料
2014/12/25 职场文书
大学升旗仪式主持词
2015/07/04 职场文书
清明扫墓感想
2015/08/11 职场文书
2016优秀员工先进事迹材料
2016/02/25 职场文书
win10+anaconda安装yolov5的方法及问题解决方案
2021/04/29 Python
Redis 哨兵机制及配置实现
2022/03/25 Redis
Python实现仓库管理系统
2022/05/30 Python