记录一次Flink作业异常的排查过程 (club.perfma.com)

【简介】

最近2周开始接手apache flink全链路监控数据的作业,包括指标统计,业务规则匹配等逻辑,计算结果实时写入elasticsearch. 昨天遇到生产环境有作业无法正常重启的问题,我负责对这个问题进行排查跟进。

点击查看全文 >>

@PerfMa社区 2020-06-16 10:54分享 / 0个评论
赞过的人: 技术头条 IT技术博客大学习 PerfMa社区
要不要再学学下面的文章?
一键导出微信阅读记录和笔记 (mp.weixin.qq.com)
全民阅读的时代已经来临,目前使用读书软件的用户数2.1亿,日活跃用户超过500万,其中19-35岁年轻用户占比超过60%,本科及以上学历用户占比高达80%,北上广深及其他省会城市/直辖市用户占比超过80%。
by @code小生 2020-07-14 00:26 分享 查看详情
3.83亿开房记录被泄露后,这家酒店竟然又又又被爆泄露用户数据了 (mp.weixin.qq.com)
不到两年,万豪酒店再次发生数据泄露。本周二,万豪酒店表示,公司有近 520 万房客的个人信息被泄露。上一次万豪有 3.83 亿人次详细个人信息被泄露。
by @code小生 2020-06-21 22:35 分享 查看详情
这款神器,能把 Python 代码执行过程看地一清二楚 (mp.weixin.qq.com)
对于一些刚入门 Python 的朋友来说,代码稍微复杂些就难以搞懂代码内部到底是怎么运行的了,而且有时一运行就报错,难以一下发现错误,只会用 Print 去慢慢找异常的地方,效率很低下。
by @code小生 2020-05-18 13:36 分享 查看详情
记录项目升级 AndroidX+API29 的各种坑 (mp.weixin.qq.com)
年前的时候,公司为了业务发展,签署了一个第三方的代码库,需要我们集成,然后这个项目是依赖于androidX和各种各样新库.所以为了集成该项目,我们强制升级了我们的gradle,依赖库,目标api版本.我们的项目一直使用API27作为target和build的版本,所以在前期利用api版本避免了很多坑,自从集成了这个项目,噩梦开始了
by @code小生 2020-04-26 20:01 分享 查看详情
不可逆的类初始化过程 (club.perfma.com)
类的加载过程说复杂很复杂,说简单也简单,说复杂是因为细节很多,比如说今天要说的这个,可能很多人都不了解;说简单,大致都知道类加载有这么几个阶段,loaded->linked->initialized
by @PerfMa社区 2020-04-07 10:36 分享 查看详情
这款神器,能把 Python 代码执行过程看地一清二楚 (mp.weixin.qq.com)
对于一些刚入门 Python 的朋友来说,代码稍微复杂些就难以搞懂代码内部到底是怎么运行的了,而且有时一运行就报错,难以一下发现错误,只会用 Print 去慢慢找异常的地方,效率很低下。
by @code小生 2020-03-15 18:15 分享 查看详情
AWS Lambda + API Gateway 搭建 Restful API 折腾记录 (old-panda.com)
记录自己如何使用 AWS Lambda 和 API Gateway 搭建了一个简单的 Restful API ,同时做到了多快好省
by @OldPanda 2020-03-04 10:18 分享 查看详情
58 同城基于 Flink 的千亿级实时计算平台架构实践 (www.54tianzhisheng.cn)
58 同城作为覆盖生活全领域的服务平台,业务覆盖招聘、房产、汽车、金融、二手及本地服务等各个方面。丰富的业务线和庞大的用户数每天产生海量用户数据需要实时化的计算分析,实时计算平台定位于为集团海量数据提供高效、稳定、分布式实时计算的基础服务。本文主要介绍 58 同城基于 Flink 打造的一站式实时计算平台 Wstream。
by @zhisheng_blog 2020-02-23 09:07 分享 查看详情
阿里巴巴 Flink 踩坑经验:如何大幅降低 HDFS 压力? (www.54tianzhisheng.cn)
众所周知,Flink 是当前最为广泛使用的计算引擎之一,它使用 Checkpoint 机制进行容错处理 [1],Checkpoint 会将状态快照备份到分布式存储系统,供后续恢复使用。在 Alibaba 内部,我们使用的存储主要是 HDFS,当同一个集群的 Job 到达一定数量后,会对 HDFS 造成非常大的压力,本文将介绍一种大幅度降低 HDFS 压力的方法——小文件合并。
by @zhisheng_blog 2020-02-23 09:06 分享 查看详情
Flink Forward Asia 2019 PPT 下载 (www.54tianzhisheng.cn)
Flink Forward Asia 2019 在北京召开的,有主会场和几个分会场(企业实践、Apache Flink 核心技术、开源大数据生态、实时数仓、人工智能),内容涉及很多,可以查看下面的 PPT。
by @zhisheng_blog 2020-02-23 09:05 分享 查看详情