数据工程中的任务调度实践--技术头条 -- 微博大V帮你宣传技术博文开发者头条码农头条

【简介】

数据工程的任务调度应该以“日志驱动”作为解决方案。而日志驱动的重要部分“日志解耦”正是提高系统健壮性的利器。

由 @Thoughtworks 2023-07-24 15:13 / 0个评论

AWS运维部署实践--快速拉起生产可用的EKS集群 (wiki.eryajf.net)

本文详细介绍了在 AWS 上快速搭建生产级 EKS 集群的步骤，包括子网规划、IAM 配置、必要命令工具的安装以及集群的创建和授权。通过 `eksctl` 工具快速定义和创建 EKS 集群，并提供了集群权限管理与网络配置的建议，确保集群安全和稳定运行。文中还包含完工后的调整建议，如将访问端点调整为私有以提升安全性。

by @技术头条 2024-11-02 17:08 查看详情

AWS运维部署实践--使用sigma自建镜像仓库代替ECR (wiki.eryajf.net)

本文介绍了如何使用 `sigma` 替代 AWS 的 ECR 作为轻量级的镜像仓库解决方案。通过配置 `s3` 存储、端口监听等设置，实现了低资源占用下的高效镜像管理。文章详细提供了 `config.yaml` 文件的配置方案，以及 `sigma` 部署的具体步骤，适合在自建环境中替代 ECR 进行镜像管理。

by @技术头条 2024-11-02 17:03 查看详情

React i18n CSR 最佳实践 (innei.in)

本文探讨 React 应用在客户端渲染中的 i18n 实践，包括懒加载、性能优化和翻译文件管理的最佳方法。

by @技术头条 2024-11-02 16:57 查看详情

Hive SQL如何找出连续日期数据之间的较大波动 (ixyzero.com)

本文介绍了在 Hive SQL 中如何识别连续日期数据的显著波动，适用于异常检测。使用窗口函数 `LAG` 和 `LEAD` 提取前后日期数据，通过对比当天与昨日、近几日的均值或分位数来判定异常。文中提供了查询示例，通过阈值设定（如倍数增加或p90分位数）识别异常值，帮助分析用户行为或数据波动，为风控和数据监控提供技术支持。

by @技术头条 2024-11-02 16:52 查看详情

AWS运维部署实践--route53私有域跨账号共享 (wiki.eryajf.net)

如果你的业务场景有多个 AWS 账号，那么私有域共享就是一个绕不开的话题。aws 中的 route53 私有域配置跨账号共享有两种方案，一种是直接跨账号关联 VPC，一种是通过配置文件共享的形式实现。本文采用第一种方案，只需要两条命令即可完成此需求。

by @技术头条 2024-11-02 16:52 查看详情

AWS运维部署实践--网络环境规划 (wiki.eryajf.net)

本文详述了 AWS 网络环境的规划，包括 VPC、子网、路由表的创建和管理。通过对公有、私有和内部子网的划分，以及 NAT 网关和 IGW 的配置，实现了不同网络的隔离与访问控制。同时，文章介绍了使用中转网关进行跨账号 VPC 打通的方法，为多账号和复杂网络环境提供了便捷的连接方案。这些规划为 AWS 运维部署打下了基础，有助于提升环境的安全性与可扩展性。

by @技术头条 2024-11-02 16:49 查看详情

IM系统重构到 SDK 设计的最佳实践 (crossoverjie.top)

本文介绍了 CIM 系统重构为 SDK 的实践，使用 Builder 模式创建客户端，实现了长连接、心跳检测及自动重连等功能，极大简化了消息收发流程。还优化了请求代理，通过 `ProxyManager` 动态管理 URL，提升了代码复用性。集成测试涵盖多服务器重连和消息验证，确保系统高可用性。重构增强了模块间解耦，使 SDK 更易于维护和扩展。

by @技术头条 2024-11-02 16:49 查看详情

容器技术驱动下的代码沙箱实践与思考 (blog.yuanpei.me)

本文探讨了基于容器技术的代码沙箱应用，旨在隔离代码执行环境，提升安全性和稳定性。通过 Docker 容器创建语言镜像，支持多语言代码执行。文章介绍了使用 Jupyter 实现代码可视化，并借助 nbformat 和 nbconvert 管理和执行 Jupyter 笔记本，增强代码展示效果。此方案不仅提高了开发灵活性，还便于在 AI 编程中实时展示和分析结果。

by @技术头条 2024-11-02 16:40 查看详情

全域用户建模在美团首页推荐的探索与实践 (tech.meituan.com)

本文详述了全域建模技术在美团首页推荐系统的发展和演进。美团首页推荐算法团队通过多阶段递进式探索验证，在召回与排序模块引入多展位、多应用渠道的多源用户交互数据，并在落地过程中解决了美团多展位、多业务、时空场景强相关性的特点导致的严重跨域信号负迁移挑战。

by @技术头条 2024-11-02 16:22 查看详情

新一代实验分析引擎：驱动履约平台的数据决策 (tech.meituan.com)

本文介绍了美团履约技术平台的新一代实验分析引擎，该引擎对核心实验框架进行了标准化，并融合了众多先进解决方案，有效解决小样本挑战。同时，提供了多样化的溢出效应应对策略，并针对不同业务场景提供了精准的方差和P值计算方法，以规避统计误差。希望对大家有所帮助或启发。

by @技术头条 2024-11-02 16:18 查看详情