zoukankan      html  css  js  c++  java
  • hive的udf制剂

    1.配置环境

    1.介绍jar包裹:hive-exec-0.8.0.jar 和 hadoop-core-0.20.2.jar

    2.书写udf性能

    1.extends UDF
    2.又一次定义UDF的evaluate函数。
    package com.qunar.hiveudf;
    import java.text.SimpleDateFormat;
    import java.util.Calendar;
    import java.util.Date;
    
    import org.apache.hadoop.hive.ql.exec.UDF;
    
    public class IsSundayOrSaturday extends UDF
    {
    	public Boolean evaluate(String dateString)
    	{
    		try 
    		{
    			//将string转化为date
    			String str = dateString.split(" ")[0];
    			SimpleDateFormat sdf= new SimpleDateFormat("yyyy-MM-dd");
    			Date date =sdf.parse(str);
    			
    			//将date转换为calendar
    			Calendar calendar = Calendar.getInstance();
    			calendar.setTime(date);
    			
    			//获取date的星期
    			int week = calendar.get(Calendar.DAY_OF_WEEK)-1;
    			if(week == 0 || week == 6)
    			{
    				return true;
    			}
    			else 
    			{
    				return false;
    			}	
    		} 
    		catch (Exception e) 
    		{
    			// TODO: handle exception
    			return false;
    		}
    	}
    }
    

    3.将jar包引入hadoop环境

    1.将jar放入hive的lib的物理文件夹下;

    2.打开hiveclient,增加jar包
    add jar /home/hive/lib/HiveUDF.jar

    3.创建一个暂时文件
    create temporary function IsSundayOrSaturday AS 'com.qunar.hiveudf.IsSundayOrSaturday'

    4.调用函数
    select IsSundayOrSaturday(intime) from user_tag

    注意:

    1.假设函数的參数中含有文件。则先要将文件放入hive的执行环境中
    add file /home/filename


    版权声明:本文博主原创文章。博客,未经同意不得转载。

  • 相关阅读:
    MySQL用户
    python -- 中
    Python -- 上
    Zabbix导入数据库时报错
    chmod无执行权限
    编译安装Tengine
    Nginx的调度算法
    nginx--第三方模块echo
    ngx_http_headers_module
    nginx---隐藏或添加后端服务器的信息
  • 原文地址:https://www.cnblogs.com/lcchuguo/p/4804531.html
Copyright © 2011-2022 走看看