数据工程中的任务调度实践
数据工程的任务调度应该以“日志驱动”作为解决方案。而日志驱动的重要部分“日志解耦”正是提高系统健壮性的利器。
相关分享
0
喜欢
bl
blog.codingnow.com
/
2026-05-10 18:35
嵌入主线程消息循环的任务调度器
这篇文章记录了 soluna/ltask 在移植到 wasm 和非 Windows 平台过程中遇到的一个典型工程难题：如何在主线程事件循环中执行特定任务，同时仍保留原有多线程调度模型。
问题的核心来自图形 API 和平台约束。sokol 并非线程安全，OpenGL 又依赖当前线程状态，而 wasm 环境下主线程、worker、pthread API 的边界进一步放大了调度复杂度。
作者的解决思路不是重写整个调度器，而是在 ltask 中“打洞”：让某些必须在主线程回调中执行的 Lua 任务，临时从调度表中移出，由主线程接管执行，完成后再归还给调度器。
文章最有价值的地方，是把 coroutine、Lua 虚拟机、C 栈、主线程事件循环和图形 API 约束放在同一个工程场景中分析。它不适合泛泛阅读，但对做游戏引擎、wasm 移植或复杂运行时调度的开发者很有参考价值。
无图
1
喜欢
zh
www.zhengwenfeng.com
/
2025-11-12 00:32
Go协程池深度解析：原理、实现与最佳实践
文章系统解析 Go 协程池的实现原理和实践，包括为何需要协程池、基本实现方式、协程数设置依据及性能对比测试。示例代码演示如何手动构建协程池，并推荐三种高性能第三方库（如 ants、tunny）。适合进行高并发控制和资源管理优化的场景。
无图
1
喜欢
ix
ixyzero.com
/
2025-01-12 12:08
学习了解数据仓库中的分层概念
本文详细介绍了数据仓库的分层概念，包括数据运营层（ODS）、数据仓库层（DW）和数据应用层（APP）。其中，DW层进一步细分为数据明细层（DWD）、数据中间层（DWM）和数据服务层（DWS）。文章阐述了各层的功能和作用，并通过实例说明如何在实际业务中应用这些分层概念。该内容适合数据工程师、数据分析师、数据架构师以及对数据仓库设计和实现感兴趣的技术人员阅读。
无图
1
喜欢
ma
mazhuang.org
/
2025-01-12 12:05
Java｜如何用一个统一结构接收成员名称不固定的数据
文章通过企业微信接口示例，介绍用 Jackson 的 @JsonAlias 注解处理 Java 中不固定字段名的 JSON 数据，提升解析通用性。适合需统一处理多样 JSON 数据的 Java 开发者。
无图
1
喜欢
so
soulteary.com
/
2025-01-12 12:02
突破内存限制：Mac Mini M2 服务器化实践指南
文章介绍了如何将 Mac Mini M2 转变为高性价比的服务器，突破内存限制。作者通过安装 Ubuntu 系统，利用持久化 KV 系统替代传统 Redis，优化内存与硬盘的数据交换，提升性能。适合对家庭服务器搭建、Mac Mini 改造、Linux 系统部署感兴趣的技术爱好者和开发者。
无图
1
喜欢
bl
blog.delphij.net
/
2025-01-03 00:15
数据的长期保存
这篇文章探讨了长期数据保存的策略与实践，详细分析了存储介质的选择、数据完整性保障方法以及常见的管理问题和解决方案。作者结合实践经验，提出了一套适用于个人和企业的数据保存规划。内容适合关注数据存储、安全备份及长期保存技术的开发者、IT 管理人员，以及对数据安全感兴趣的读者，提供了具有实用价值的参考建议。
无图
1
喜欢
so
soulteary.com
/
2025-01-02 23:58
ThinkPad + Redis：构建亿级数据毫秒级查询的平民方案
如何用普通设备实现海量数据的毫秒级查询？文章分享了在 ThinkPad 上构建 Redis 系统的完整方案，详细解析了数据分片、查询优化和资源调配等关键技术，还提供了针对高效查询的实际案例。轻量化实现，高性能表现，为开发者提供了实用的参考思路，值得深入学习！
无图
1
喜欢
in
innei.in
/
2024-11-23 21:56
Vercel 部署的单页应用（SPA）动态 Meta 标签实践
在 Vercel 部署的单页应用（SPA）中，配置动态 Meta Tags 可改善 SEO 和分享体验。通过中间层实现 SSR 或利用 Edge Functions 渲染动态标签，可让每个页面呈现独立内容，兼顾性能与优化效果！
无图
1
喜欢
wi
wiki.eryajf.net
/
2024-11-02 17:08
AWS运维部署实践--快速拉起生产可用的EKS集群
本文详细介绍了在 AWS 上快速搭建生产级 EKS 集群的步骤，包括子网规划、IAM 配置、必要命令工具的安装以及集群的创建和授权。通过 `eksctl` 工具快速定义和创建 EKS 集群，并提供了集群权限管理与网络配置的建议，确保集群安全和稳定运行。文中还包含完工后的调整建议，如将访问端点调整为私有以提升安全性。
无图
1
喜欢
wi
wiki.eryajf.net
/
2024-11-02 17:03
AWS运维部署实践--使用sigma自建镜像仓库代替ECR
本文介绍了如何使用 `sigma` 替代 AWS 的 ECR 作为轻量级的镜像仓库解决方案。通过配置 `s3` 存储、端口监听等设置，实现了低资源占用下的高效镜像管理。文章详细提供了 `config.yaml` 文件的配置方案，以及 `sigma` 部署的具体步骤，适合在自建环境中替代 ECR 进行镜像管理。
无图