mp mp.weixin.qq.com / 2018-06-04 18:53 / by @帘卷一庭秋

基于Hadoop生态SparkStreaming的大数据实时流处理平台的搭建

随着公司业务发展，对大数据的获取和实时处理的要求就会越来越高，日志处理、用户行为分析、场景业务分析等等，传统的写日志方式根本满足不了业务的实时处理需求，所以本人准备开始着手改造原系统中的数据处理方式，重新搭建一个实时流处理平台，主要是基于Hadoop生态，利用Kafka作为中转，SparkStreaming框架实时获取数据并清洗，将结果多维度的存储进HBase数据库。

赞过的人

@技术头条

ix ixyzero.com / 2025-01-12 12:08

学习了解数据仓库中的分层概念

本文详细介绍了数据仓库的分层概念，包括数据运营层（ODS）、数据仓库层（DW）和数据应用层（APP）。其中，DW层进一步细分为数据明细层（DWD）、数据中间层（DWM）和数据服务层（DWS）。文章阐述了各层的功能和作用，并通过实例说明如何在实际业务中应用这些分层概念。该内容适合数据工程师、数据分析师、数据架构师以及对数据仓库设计和实现感兴趣的技术人员阅读。

查看详情

无图

ma mazhuang.org / 2025-01-12 12:05

Java｜如何用一个统一结构接收成员名称不固定的数据

文章通过企业微信接口示例，介绍用 Jackson 的 @JsonAlias 注解处理 Java 中不固定字段名的 JSON 数据，提升解析通用性。适合需统一处理多样 JSON 数据的 Java 开发者。

查看详情

无图

bl blog.delphij.net / 2025-01-03 00:15

数据的长期保存

这篇文章探讨了长期数据保存的策略与实践，详细分析了存储介质的选择、数据完整性保障方法以及常见的管理问题和解决方案。作者结合实践经验，提出了一套适用于个人和企业的数据保存规划。内容适合关注数据存储、安全备份及长期保存技术的开发者、IT 管理人员，以及对数据安全感兴趣的读者，提供了具有实用价值的参考建议。

查看详情

无图

so soulteary.com / 2025-01-02 23:58

ThinkPad + Redis：构建亿级数据毫秒级查询的平民方案

如何用普通设备实现海量数据的毫秒级查询？文章分享了在 ThinkPad 上构建 Redis 系统的完整方案，详细解析了数据分片、查询优化和资源调配等关键技术，还提供了针对高效查询的实际案例。轻量化实现，高性能表现，为开发者提供了实用的参考思路，值得深入学习！

查看详情

无图

so soulteary.com / 2025-01-02 23:57

使用开源软件搭建轻量的 NPM 私有仓库：Verdaccio

如何搭建轻量级 NPM 私有仓库？文章详细介绍了使用开源软件 Verdaccio 的实现方案，从环境准备到配置部署，再到权限管理和优化建议，完整覆盖每个步骤。同时分享了实际应用中的注意事项和性能调优经验，是团队项目管理和依赖控制的绝佳参考。值得尝试！

查看详情

无图

ix ixyzero.com / 2024-11-02 16:52

Hive SQL如何找出连续日期数据之间的较大波动

本文介绍了在 Hive SQL 中如何识别连续日期数据的显著波动，适用于异常检测。使用窗口函数 `LAG` 和 `LEAD` 提取前后日期数据，通过对比当天与昨日、近几日的均值或分位数来判定异常。文中提供了查询示例，通过阈值设定（如倍数增加或p90分位数）识别异常值，帮助分析用户行为或数据波动，为风控和数据监控提供技术支持。

查看详情

无图

cr crossoverjie.top / 2024-11-02 16:42

StarRocks 开发环境搭建踩坑指北

本文详细介绍了在本地搭建 StarRocks 开发环境的步骤，包括启动前端（FE）和后端（BE）的配置及调试方法。通过本地启动 FE 并使用 Docker 运行 BE，实现了本地调试和测试。作者分享了常见问题解决方案，如端口冲突和网络配置问题，为 StarRocks 开发环境搭建提供了实用指南。

查看详情

无图

di www.diguage.com / 2024-11-02 16:34

本文介绍了通过 Docker 配置 OpenTelemetry 和 Jaeger，实现分布式链路追踪。详细讲解了如何使用 OpenTelemetry Agent 和 Collector 配置尾部采样策略，识别慢请求和错误。结合 Prometheus 和 Grafana，构建全面的监控和追踪系统。提供了具体的 `docker-compose.yml` 配置文件示例，适合需要全链路可观测性的分布式应用开发环境。

查看详情

无图

di www.diguage.com / 2024-11-02 16:33

基于 Docker 搭建开发环境（二）：EFK 日志套件

本文介绍了如何使用 Docker 和 EFK（Elasticsearch、Fluentd、Kibana）套件构建日志管理系统，通过 Fluentd 将 NACOS 和业务日志集中发送至 Elasticsearch，方便数据分析和故障排查。文章提供了 `docker-compose.yml` 配置文件示例，解决了插件安装、权限设置和健康检查等常见问题，为构建灵活高效的日志管理系统提供了实用方法。

查看详情

无图

di www.diguage.com / 2024-11-02 16:33

基于 Docker 搭建开发环境（一）：数据库+监控

本文介绍了使用 Docker 构建开发环境的步骤，涵盖 MySQL 数据库配置、Nacos 服务发现与配置管理、Prometheus 监控及 Grafana 可视化。通过 Docker Compose 结构化配置，实现了多组件集成。文章提供了详细的 `docker-compose.yml` 文件示例，并探讨了自动接入监控、应用打包等优化方向，适用于需要集中管理多项开发工具的场景。

查看详情

无图

基于Hadoop生态SparkStreaming的大数据实时流处理平台的搭建

赞过的人

发表评论

相关分享