设为首页 收藏本站
查看: 646|回复: 0

[经验分享] Hadoop-common之GenericWritable

[复制链接]

尚未签到

发表于 2016-12-10 06:52:24 | 显示全部楼层 |阅读模式
       和ObjectWritable一样,GenericWritable也是一个包装类。一个应用场景就是Reduce段的输入值,如果是key type一样,value type不同的,就可以用GenericWritable来代替。GenericWritable和ObjectWritable区别主要在于:ObjectWritable序列化的时候,会将类类型名称也一起序列化,会造成浪费,特别是大量的网络传输。GenericWritable就是为了解决这样的问题,对于少量类型数量,且事先知道类型,可以用GenericWritable来提供效率
        GenericWritable是个抽象类,它有个核心抽象方法getTypes需要用户自己去实现。getTypes方法就是将事先知道的数据类型组成一个数组,序列化和反序列化的时候都需要调用这个方法

/**
* Return all classes that may be wrapped.  Subclasses should implement this
* to return a constant array of classes.
*/
abstract protected Class<? extends Writable>[] getTypes();
      GenericWritable有4个属性       

private static final byte NOT_SET = -1;//表示没有set实例值
private byte type = NOT_SET;//表示实例的类型(实例类型在getTypes返回数组中的序号)
private Writable instance;//实例对象
private Configuration conf = null;//Configuaration对象
    下面来介绍GenericWritable的主要方法:  set方法 用于赋值实例,并设置type的值
    

/**
* Set the instance that is wrapped.
*
* @param obj
*/
public void set(Writable obj) {
instance = obj;//对实例赋值
Class<? extends Writable> instanceClazz = instance.getClass();//获得实例的类型
Class<? extends Writable>[] clazzes = getTypes();//获取事先配置的类型数组
//查找实例类型在类型数组中的序号
for (int i = 0; i < clazzes.length; i++) {
Class<? extends Writable> clazz = clazzes;
if (clazz.equals(instanceClazz)) {
type = (byte) i;//设置type的值(序号)
return;
}
}
throw new RuntimeException("The type of instance is: "
+ instance.getClass() + ", which is NOT registered.");
}
   序列化方法write
     

@Override
public void write(DataOutput out) throws IOException {
if (type == NOT_SET || instance == null)
throw new IOException("The GenericWritable has NOT been set correctly. type="
+ type + ", instance=" + instance);
out.writeByte(type);//将类型序号虚拟化
instance.write(out);//序列化实例对象
}
   反序列化:
   

@Override
public void readFields(DataInput in) throws IOException {
type = in.readByte();//读取类型序号
Class<? extends Writable> clazz = getTypes()[type & 0xff];//通过序号找到对应的类型
try {
instance = ReflectionUtils.newInstance(clazz, conf);//通过反射实例化对象
} catch (Exception e) {
e.printStackTrace();
throw new IOException("Cannot initialize the class: " + clazz);
}
instance.readFields(in);//调用实例对象的反序列化方法,初始化属性值
}
   从代码中来看,GenericWritable采用类型序号来代替类型名称,从而减少序列化数据的长度。GenericWritable的缺点也显而易见,当数据类型不确定,或者数据类型特别多的时候,GenericWritable不适合使用



 

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-311999-1-1.html 上篇帖子: hadoop博客整理 下篇帖子: Hadoop-common之WritableFactories
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表