|
【郑州校区】大数据离线阶段Day5之Hive参数配置
1． Hive 命令行输入$HIVE_HOME/bin/hive –H 或者 –help可以显示帮助选项： 说明： 1、 -i 初始化HQL文件。 2、 -e从命令行执行指定的HQL 3、 -f 执行HQL脚本 4、 -v 输出执行的HQL语句到控制台 5、 -p <port> connect to Hive Server on port number 6、 -hiveconf x=y Use this to set hive/hadoop configuration variables. 例如： $HIVE_HOME/bin/hive -e 'select * from tab1 a' $HIVE_HOME/bin/hive -f /home/my/hive-script.sql $HIVE_HOME/bin/hive -f hdfs://<namenode>:<port>/hive-script.sql $HIVE_HOME/bin/hive -i /home/my/hive-init.sql $HIVE_HOME/bin/hive -e 'select a.col from tab1 a' --hiveconf hive.exec.compress.output=true --hiveconf mapred.reduce.tasks=32 2． Hive 参数配置方式Hive参数大全： 开发Hive应用时，不可避免地需要设定Hive的参数。设定Hive的参数可以调优HQL代码的执行效率，或帮助定位问题。然而实践中经常遇到的一个问题是，为什么设定的参数没有起作用？这通常是错误的设定方式导致的。 对于一般参数，有以下三种设定方式： 配置文件 （全局有效） 命令行参数 （对hive启动实例有效） 参数声明 （对hive的连接session有效）
配置文件 用户自定义配置文件：$HIVE_CONF_DIR/hive-site.xml 默认配置文件：$HIVE_CONF_DIR/hive-default.xml 用户自定义配置会覆盖默认配置。 另外，Hive也会读入Hadoop的配置，因为Hive是作为Hadoop的客户端启动的，Hive的配置会覆盖Hadoop的配置。 配置文件的设定对本机启动的所有Hive进程都有效。 命令行参数 启动Hive（客户端或Server方式）时，可以在命令行添加-hiveconf来设定参数 例如：bin/hive -hiveconf hive.root.logger=INFO,console 设定对本次启动的Session（对于Server方式启动，则是所有请求的Sessions）有效。 参数声明 可以在HQL中使用SET关键字设定参数，这一设定的作用域也是session级的。 比如： set hive.exec.reducers.bytes.per.reducer=<number> 每个reduce task的平均负载数据量 set hive.exec.reducers.max=<number> 设置reduce task数量的上限 set mapreduce.job.reduces=<number> 指定固定的reduce task数量 但是，这个参数在必要时<业务逻辑决定只能用一个reduce task> hive会忽略 上述三种设定方式的优先级依次递增。即参数声明覆盖命令行参数，命令行参数覆盖配置文件设定。注意某些系统级的参数，例如log4j相关的设定，必须用前两种方式设定，因为那些参数的读取在Session建立以前已经完成了。 传智播客·黑马程序员郑州校区地址 河南省郑州市 高新区长椿路11号大学科技园（西区）东门8号楼三层
| 
收藏
淘帖
踩
