A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

© 梦缠绕的时候 黑马粉丝团   /  2018-9-14 09:36  /  937 人查看  /  1 人回复  /   0 人收藏 转载请遵从CC协议 禁止商业使用本文

1.系统自带的函数

1)查看系统自带的函数

hive> show functions;

2)显示自带的函数的用法

hive> desc function upper;

3)详细显示自带的函数的用法

hive> desc function extended upper;

2.自定义函数

1)Hive 自带了一些函数,比如:max/min 等,但是数量有限,自己可以通过自定义 UDF来方便的扩展。
2)当 Hive 提供的内置函数无法满足你的业务处理需要时,此时就可以考虑使用用户自定义函数(UDF:user-defined function)。
3)根据用户自定义函数类别分为以下三种:
               (1)UDF(User-Defined-Function)
                        一进一出

               (2)UDAF(User-Defined Aggregation Function)

                        聚集函数,多进一出
                        类似于:count/max/min

               (3)UDTF(User-Defined Table-Generating Functions)
                          一进多出
                      如 lateral view explore()
               (4)官方文档地址
                      https://cwiki.apache.org/confluence/display/Hive/HivePlugins         

               (5)编程步骤:
                             继承 org.apache.hadoop.hive.ql.UDF
                             需要实现 evaluate 函数;evaluate 函数支持重载;
                             在 hive 的命令行窗口创建函数
                                             a)添加 jar

add jar linux_jar_path

                                             b)创建 function

create [temporary] function [dbname.]function_name AS class_name;

                            在 hive 的命令行窗口删除函数

Drop [temporary] function [if exists] [dbname.]function_name;

               (6)注意事项:
                           UDF 必须要有返回类型,可以返回 null,但是返回类型不能为 void

3.自定义UDF函数开发案例

1)创建一个 java 工程,并创建一个 lib 文件夹
2)将 hive 的 jar 包解压后,将 apache-hive-1.2.1-bin\lib 文件下的 jar 包都拷贝到 java 工程中
3)创建一个类



  • package com.atguigu.hive;



  • import org.apache.hadoop.hive.ql.exec.UDF;



  • public class Lower extends UDF {



  • public String evaluate (final String s) {



  • if (s == null) {



  • return null;



  • }



  • return s.toString().toLowerCase();



  • }



  • }


4)打成 jar 包上传到服务器/opt/module/下,这里的目录可以是随意的
5)将 jar 包添加到 hive 的 classpath下

hive (default)> add jar /opt/module/xxx.jar;

6)创建临时函数与开发好的 java class 关联

hive (default)> create temporary function my_lower as "com.atguigu.hive.Lower";

7)即可在 hql 中使用自定义的函数 strip

hive (default)> select ename, my_lower(ename) lowername from emp;

1 个回复

倒序浏览
奈斯
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马