A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

配置hadoop的最小blocksize,必须是512的倍数。

-------------------------------------------

         [hdfs-site.xml]

         dfs.namenode.fs-limits.min-block-size=1024

         write,进行校验,512进行一次校验。


单独配置辅助名称节点

---------------------

         [hdfs-site.xml]

         dfs.namenode.secondary.http-address=s206:50090


使用oiv命令查询hadoop镜像文件

------------------------------

    镜像文件中记录了文件和目录的结构

         在/home/ctr/soft/hadoop-2.7.3/tmp/dfs/name/current 下:

hdfs oiv -i fsimage -o a.xml -p XML                    //查看镜像文件


使用oev命令查询hadoop编辑日志

------------------------------

    编辑日志中记录了对Hadoop做的除查询外的操作(提交的事物)

         在/home/ctr/soft/hadoop-2.7.3/tmp/dfs/name/current 下:

hdfs oev  -i  editxxxx  -o b.xml -p XML        //查看编辑日志文件


hdfs dfsadmin管理命令

----------------------

                  $>hdfs dfsadmin                                            //查看帮助

                  $>hdfs dfsadmin      -help rollEdits  //查看指定命令的帮助

                  $>hdfs dfsadmin -rollEdits                 //滚动编辑日志


启动hdfs时,镜像文件编辑日志进行融合,编辑日志滚动。


hdfs dfsadmin管理命令

----------------------

         $>hdfs dfsadmin                                            //查看帮助

         $>hdfs dfsadmin      -help rollEdits  //查看指定命令的帮助

         $>hdfs dfsadmin -rollEdits                 //滚动编辑日志



hadoop

--------------------

                  $>hadoop fs                                          //hdfs dfs

                  $>hadoop checknative              //检查压缩库本地安装情况

                  $>hadoop namenode -format //格式化名称



hdfs管理命令

--------------------

                           hdfsdfsadmin                    //保存名字空间,需要进入安全模式

--------------------------------

                  $>hdfs dfsamdin –saveNamespace //保存在$HADOOP_HOME

                   并且自动完成日志融合

                   $>hdfsdfsadmin [-safemode enter | leave | get | wait]

                                进入  离开 查看 等待


hadoop启动命令

------------------

                           $>start-all.sh            //start-dfs.sh + start-yarn.sh

                           $>start-dfs.sh           //hadoop-daemon.sh start namenode

                                                            //hadoop-daemons.sh start datanode

                                                                 //hadoop-daemons.shstart secondarynamenode

                           $>start-yarn.sh        //yarn-daemon.sh start resourcemanager

                                                            //yarn-daemons.sh start nodemanager


配额管理(quota)

-------------------

         限制文件夹下文件的数量和大小

                  [目录配额]

                  计算目录下的所有文件的总个数。如果1,表示空目录。

                  $>hdfs dfsadmin -setQuota 1 dir1dir2             //设置目录配额

                  $>hdfs dfsadmin -clrQuota 1 dir1dir2              //清除配额管理


                  [空间配额]

                  计算目录下的所有文件的总大小.包括副本数.

                  空间配置至少消耗384M的空间大小(目录本身会占用384M的空间)。

                  $>hdfs dfsadmin -setSpaceQuota 3data

                  $>echo -n a > k.txt

                  $>hdfs dfs -put k.txt data2

                  $>hdfs dfsadmin -clrSpaceQuota dir1                        //清除配额管理


快照管理

--------------------

                  1.描述

                  迅速对文件(夹)进行备份。不产生新文件,使用差值存储。

                 默认是禁用快照,先启用。

                  2.命令

                $>hdfsdfsadmin -allowSnapShot dir1               //在dir1启用快照

                $>hdfsdfsadmin -disallowSnapShot dir1 //在dir1禁用快照

                $>hdfsdfs -createSnapshot dir ss1          //创建快照

                $>hdfsdfs -renameSnapshot dir ss1 ss2 //重命名

                $>hdfsdfs -deleteSnapshot dir ss1          //删除快照


2 个回复

正序浏览
赞一个
回复 使用道具 举报
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马