设为首页 收藏本站
查看: 616|回复: 0

[经验分享] 使用hive向mysql,sqlserver,hbase插入数据

[复制链接]

尚未签到

发表于 2018-9-29 12:02:25 | 显示全部楼层 |阅读模式
package com.hive.udf.test;  

  
import java.sql.Connection;
  
import java.sql.DriverManager;
  
import java.sql.PreparedStatement;
  
import java.sql.SQLException;
  

  
import org.apache.commons.logging.Log;
  
import org.apache.commons.logging.LogFactory;
  
import org.apache.hadoop.hive.ql.exec.UDFArgumentTypeException;
  
import org.apache.hadoop.hive.ql.metadata.HiveException;
  
import org.apache.hadoop.hive.ql.udf.generic.GenericUDF;
  
import org.apache.hadoop.hive.serde.serdeConstants;
  
import org.apache.hadoop.hive.serde2.objectinspector.ObjectInspector;
  
import org.apache.hadoop.hive.serde2.objectinspector.PrimitiveObjectInspector;
  
import org.apache.hadoop.hive.serde2.objectinspector.primitive.PrimitiveObjectInspectorFactory;
  
import org.apache.hadoop.hive.serde2.objectinspector.primitive.StringObjectInspector;
  
import org.apache.hadoop.io.IntWritable;
  

  
public class GenericSQLServerDBOutput extends GenericUDF {
  
    private static final Log LOG = LogFactory.getLog(
  
                                    GenericSQLServerDBOutput.class.getName());
  

  
    private transient ObjectInspector[] argumentOI;//参数
  
    private transient Connection connection = null;
  
    private String url;//jdbc url
  
    private String user;//用户名
  
    private String pass;//密码
  
    private String dbName;//数据库名称
  
    private final IntWritable result = new IntWritable(-1);//返回参数
  

  
    //初始化方法,确定返回类型
  
    @Override
  
    public ObjectInspector initialize(ObjectInspector[] arguments)
  
            throws UDFArgumentTypeException {
  
        argumentOI = arguments;
  

  
        for (int i = 0; i < 4; i++) {
  
            if (arguments.getCategory() == ObjectInspector.Category.PRIMITIVE) {
  
                PrimitiveObjectInspector poi = ((PrimitiveObjectInspector) arguments);
  

  
                if (!(poi.getPrimitiveCategory() ==
  
                            PrimitiveObjectInspector.PrimitiveCategory.STRING)) {
  
                    throw new UDFArgumentTypeException(i,
  
                            "The argument of function  should be \""
  
                                    + serdeConstants.STRING_TYPE_NAME
  
                                    + "\", but \"" + arguments.getTypeName()
  
                                    + "\" is found");
  
                }
  
            }
  
        }
  

  
        for (int i = 4; i < arguments.length; i++) {
  
            if (arguments.getCategory() != ObjectInspector.Category.PRIMITIVE) {
  
                throw new UDFArgumentTypeException(i,
  
                        "The argument of function should be primative"
  
                                + ", but \"" + arguments.getTypeName()
  
                                + "\" is found");
  
            }
  
        }
  

  
        return PrimitiveObjectInspectorFactory.writableIntObjectInspector;
  
    }
  

  
    @Override
  
    public Object evaluate(DeferredObject[] arguments) throws HiveException {
  

  
        url = ((StringObjectInspector) argumentOI[0])
  
                .getPrimitiveJavaObject(arguments[0].get());
  
        user = ((StringObjectInspector) argumentOI[1])
  
                .getPrimitiveJavaObject(arguments[1].get());
  
        pass = ((StringObjectInspector) argumentOI[2])
  
                .getPrimitiveJavaObject(arguments[2].get());
  
        dbName = ((StringObjectInspector) argumentOI[3])
  
                .getPrimitiveJavaObject(arguments[3].get());
  

  
        try {
  
            Class.forName("com.microsoft.sqlserver.jdbc.SQLServerDriver");
  
            connection = DriverManager.getConnection(url + ";DatabaseName=" + dbName,
  
                            user, pass);
  
        } catch (SQLException ex) {
  
            LOG.error("Driver loading or connection issue", ex);
  
            result.set(2);
  
        } catch (ClassNotFoundException e) {
  
            e.printStackTrace();
  
        }
  

  
        if (connection != null) {
  
            try {
  
                PreparedStatement ps =
  
                    connection.prepareStatement(((StringObjectInspector) argumentOI[4])
  
                                        .getPrimitiveJavaObject(arguments[4].get()));
  

  
                for (int i = 5; i < arguments.length; ++i) {
  
                    PrimitiveObjectInspector poi =
  
                        ((PrimitiveObjectInspector) argumentOI);
  
                      ps.setObject(i - 4, poi.getPrimitiveJavaObject(arguments.get()));
  
                }
  

  
                ps.execute();
  
                ps.close();
  
                result.set(0);
  
            } catch (SQLException e) {
  
                LOG.error("Underlying SQL exception", e);
  
                result.set(1);
  
            } finally {
  
                try {
  
                    connection.close();
  
                } catch (Exception ex) {
  
                    LOG.error("Underlying SQL exception during close", ex);
  
                }
  
            }
  
        }
  

  
        return result;
  
    }
  

  
    @Override
  
    //其用于Hadoop task内部,在使用到这个函数时来展示调试信息
  
    public String getDisplayString(String[] children) {
  
        StringBuilder sb = new StringBuilder();
  
        sb.append("dboutput(");
  
        if (children.length > 0) {
  
            sb.append(children[0]);
  
            for (int i = 1; i < children.length; i++) {
  
                sb.append(",");
  
                sb.append(children);
  
            }
  
        }
  

  
        sb.append(")");
  
        return sb.toString();
  
    }
  
}



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-603784-1-1.html 上篇帖子: 五个步骤完成MySQL主从复制 下篇帖子: mysql5.6同步,Last_SQL_Errno: 1677
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表