BR 技术头条

技术头条

技术链接、资讯与社区分享流

54 www.54tianzhisheng.cn / 2019-01-10 23:54 / by @zhisheng_blog

《从0到1学习Flink》—— Flink Data transformation(转换)

Flink 应用程序结构就是如上图所示:

1、Source: 数据源,Flink 在流处理和批处理上的 source 大概有 4 类:基于本地集合的 source、基于文件的 source、基于网络套接字的 source、自定义的 source。自定义的 source 常见的有 Apache kafka、Amazon Kinesis Streams、RabbitMQ、Twitter Streaming API、Apache NiFi 等,当然你也可以定义自己的 source。

2、Transformation:数据转换的各种操作,有 Map / FlatMap / Filter / KeyBy / Reduce / Fold / Aggregations / Window / WindowAll / Union / Window join / Split / Select / Project 等,操作很多,可以将数据转换计算成你想要的数据。

赞过的人

@技术头条@zhisheng_blog

发表评论