技术头条 - 一个快速在微博传播文章的方式     搜索本站
您现在的位置首页 --> 系统运维 --> Hadoop的map/reduce作业输入非UTF-8编码数据的处理原理

Hadoop的map/reduce作业输入非UTF-8编码数据的处理原理

浏览:4578次  出处信息

     从刚毕业开始接触Hadoop写map/reduce作业开始,就遇到了输入数据是GBK编码的问题,找了身边的牛人搞到了一句代码解决。

     String line=new String(value.getBytes(),0,value.getLength(),”GBK”); //这里的value是Text类型。

     然后一直在用,却也没有想过其中的原由。最近埋下头来学习Hadoop的基础知识,又联想到了这里。

     其实,String line=value.toString();之所以会把GBK编码的输入变成乱码,很关键的一个因素是Text这个Writable类型造成的。初学时,一直认为和LongWritable对long的封装一样,Text类型是String的Writable封装。但其实Text和String还是有些区别,它是一种UTF-8格式的Writable,而Java中的String是Unicode字符。所以直接使用value.toString()方法,会默认其中的字符都是UTF-8编码过的,因而原本GBK编码的数据使用Text读入后直接使用该方法就会变成乱码。

     正确的方法是将输入的Text类型的value转换为字节数组,使用String的构造器String(byte[] bytes, int offset, int length, Charset charset),通过使用指定的charset解码指定的byte子数组,构造一个新的String。即 String line=new String(value.getBytes(),0,value.getLength(),”GBK”);

     Text的UTF-8特性也可以从TextOutputFormat中看出一二,在TextOutputFormat的源码中,

     private static final String utf8 = “UTF-8″;//这里被写死成了utf-8

     所以如果需要map/reduce输出其它编码格式的数据,需要自己实现OutputFormat,在其中指定编码方式,而不能使用默认的TextOutputFormat。具体的范例可以见淘宝数据平台与产品部官方博客上的博文 http://www.tbdata.org/archives/244

建议继续学习:

  1. Facebook的实时Hadoop系统    (阅读:10574)
  2. 字符编码和中文乱码小叙    (阅读:5574)
  3. hadoop rpc机制 && 将avro引入hadoop rpc机制初探    (阅读:5097)
  4. 中文编码杂谈    (阅读:4915)
  5. PHP编码规范    (阅读:4324)
  6. base64_encode 和 urlencode    (阅读:4057)
  7. Hadoop超级安装手册    (阅读:3974)
  8. UTF-8编码中BOM的检测与删除    (阅读:4005)
  9. Linux screen窗口中文乱码问题    (阅读:3924)
  10. 关于哈希map奇慢无比的原因定位    (阅读:3916)
QQ技术交流群:445447336,欢迎加入!
扫一扫订阅我的微信号:IT技术博客大学习
<< 前一篇:SSH无密码登录
后一篇:善用配置 >>
© 2009 - 2024 by blogread.cn 微博:@IT技术博客大学习

京ICP备15002552号-1