您现在的位置:首页 --> 查看专题: hadoop
背景 从使用hadoop的第一天开始,就一直没有离开过对Hadoop自身功能的开发以及hadoop本身bug的修复的相关开发。这样的开发模式已经持续了好几年,但是可以从中发现的一个现象:对于我们修复的bug或者开发的功能,一直都没有一种很规范,很统一,高效,好管理,并且一目了然的测试的方式。常常的现象是:开发了一个功能或修复了一个bug后,就针对该修改进行一些人为手动的环境模拟和测试,然后测试确认没有问题以后,就合入基线版本...
1.在Eclipse下的hadoop mapred调试对于小数据量的调试,可以再本机下载并安装cywin,之后将cywin的bin目录添加到系统的Path环境变量中,将hadoop的core包添加到classpath中。此时就可以在Eclipse下调试你的mapred程序,这时hadoop是在local模式下运行的,如果把hadoop的源代码关联进来,你还可以在他的内部处理中设置断点。 2. master重启出问题之前使用hadoop过程中遇到过几次由于任务执行过程中,某些slave宕机了,然后重启集...
[ 共23篇文章 ][ 第2页/共2页 ][ 1 ][ 2 ]
近3天十大热文
-
[755] WordPress插件开发 -- 在插件使用 -
[91] 大并发下的高性能编程 – 改进的(用户态)自 -
[90] 详解SIM卡编号的含意 -
[69] Twitter/微博客的学习摘要 -
[46] 如何从无到有建立推荐系统 -
[45] 招聘技巧一二 -
[43] C语言的整型溢出问题 -
[38] 程序员技术练级攻略 -
[38] Oracle MTS模式下 进程地址与会话信 -
[38] Innodb分表太多或者表分区太多,会导致内
赞助商广告




