BR 技术头条 技术链接、资讯与社区分享流
mp mp.weixin.qq.com / 2017-09-07 10:19 / by @帘卷一庭秋

哔哩哔哩大数据采集服务—Lancer系统设计与实践

哔哩哔哩(以下简称B站)的日志采集肩负了B站的所有业务的日志收集并传输,提供离线数据和实时数据以满足离线或实时计算以及业务方订阅的需求。B站日志收集系统是基于Flume设计和搭建而成的。

数据采集是大数据的基石,近几年随着业务的高速增长,产生的数据量越来越大,并且会持续快速增长。因而对采集系统的实时性,稳定性以及可靠性也提出了更高的要求。

本文主要介绍了日志采集系统Lancer的整体架构包括各组件设计及优化。

赞过的人

@技术头条

发表评论