BR 技术头条 技术链接、资讯与社区分享流
yq yq.aliyun.com / 2016-03-14 13:03 / by @云栖精选

SparkContext的初始化（伯篇）——执行环境与元数据清理器

打开原文 0 条评论

发表评论

相关分享

bl blog.devtang.com / 2025-01-03 00:09

将 stdc++.h 加到 Macbook M1/M2/M3 编译环境中

这篇文章详细讲解了如何在 MacBook M1 上添加标准 C 库支持，涵盖环境配置、依赖安装以及解决常见问题的具体步骤。通过清晰的操作指南，帮助开发者轻松应对 M1 芯片的兼容性挑战，提升开发效率。内容适合需要在 M1 上进行 C/C++ 开发的程序员及对系统配置优化感兴趣的技术人员。

查看详情
无图
wi wiki.eryajf.net / 2024-11-02 16:49

AWS运维部署实践--网络环境规划

本文详述了 AWS 网络环境的规划，包括 VPC、子网、路由表的创建和管理。通过对公有、私有和内部子网的划分，以及 NAT 网关和 IGW 的配置，实现了不同网络的隔离与访问控制。同时，文章介绍了使用中转网关进行跨账号 VPC 打通的方法，为多账号和复杂网络环境提供了便捷的连接方案。这些规划为 AWS 运维部署打下了基础，有助于提升环境的安全性与可扩展性。

查看详情
无图
cr crossoverjie.top / 2024-11-02 16:42

StarRocks 开发环境搭建踩坑指北

本文详细介绍了在本地搭建 StarRocks 开发环境的步骤，包括启动前端（FE）和后端（BE）的配置及调试方法。通过本地启动 FE 并使用 Docker 运行 BE，实现了本地调试和测试。作者分享了常见问题解决方案，如端口冲突和网络配置问题，为 StarRocks 开发环境搭建提供了实用指南。

查看详情
无图
di www.diguage.com / 2024-11-02 16:34

基于 Docker 搭建开发环境（三）：链路追踪

本文介绍了通过 Docker 配置 OpenTelemetry 和 Jaeger，实现分布式链路追踪。详细讲解了如何使用 OpenTelemetry Agent 和 Collector 配置尾部采样策略，识别慢请求和错误。结合 Prometheus 和 Grafana，构建全面的监控和追踪系统。提供了具体的 `docker-compose.yml` 配置文件示例，适合需要全链路可观测性的分布式应用开发环境。

查看详情
无图
di www.diguage.com / 2024-11-02 16:33

基于 Docker 搭建开发环境（二）：EFK 日志套件

本文介绍了如何使用 Docker 和 EFK（Elasticsearch、Fluentd、Kibana）套件构建日志管理系统，通过 Fluentd 将 NACOS 和业务日志集中发送至 Elasticsearch，方便数据分析和故障排查。文章提供了 `docker-compose.yml` 配置文件示例，解决了插件安装、权限设置和健康检查等常见问题，为构建灵活高效的日志管理系统提供了实用方法。

查看详情
无图
di www.diguage.com / 2024-11-02 16:33

基于 Docker 搭建开发环境（一）：数据库+监控

本文介绍了使用 Docker 构建开发环境的步骤，涵盖 MySQL 数据库配置、Nacos 服务发现与配置管理、Prometheus 监控及 Grafana 可视化。通过 Docker Compose 结构化配置，实现了多组件集成。文章提供了详细的 `docker-compose.yml` 文件示例，并探讨了自动接入监控、应用打包等优化方向，适用于需要集中管理多项开发工具的场景。

查看详情
无图
te tech.meituan.com / 2024-09-09 23:41

Spark向量化计算在美团生产环境的实践

美团在 Spark 生产环境中引入了向量化计算，使用 Gluten 和 Velox 框架，实现了大数据任务的加速和资源优化。本文详细讲解了 Spark 向量化的原理、性能提升以及美团的实施过程和遇到的挑战，适合关注大数据优化的技术人员。

查看详情
无图
cr crossoverjie.top / 2024-03-31 21:12

在 kubernetes 环境下如何优雅扩缩容 Pulsar

在整个大环境的降本增效的熏陶下，我们也不得不做好应对方案。

根据对线上流量、存储以及系统资源的占用，发现我们的 Pulsar 集群有许多的冗余，所以考虑进行缩容从而减少资源浪费，最终也能省一些费用。

不过在缩容之前很有必要先聊聊扩容，Pulsar 一开始就是存算分离的架构（更多关于 Pulsar 架构的内容本文不做过多介绍，感兴趣的可以自行搜索），天然就非常适合 kubernetes 环境，也可以利用 kubernetes 的能力进行快速扩容。

查看详情
无图
bl blog.codingnow.com / 2024-03-13 13:20

以非阻塞方式执行一个函数

用过 skynet 的应该都碰到过：当我们在服务中不小心调用了一个长时间运行而不返回的 C 函数，会独占一个工作线程。同时，这个被阻塞的服务也无法处理新的消息。一旦这种情况发生，看似是无解的。我们通常认为，是设计问题导致了这种情况发生。skynet 的框架在监测到这种情况发生时，会输出 maybe in an endless loop 。

如果是 Lua 函数产生的死循环，可以通过发送 signal 打断正在运行运行的 Lua 虚拟机，但如果是陷入 C 函数中，只能事后追查 bug 了。

那么，如果我原本就预期一段 C 代码会运行很长时间，有没有可能从底层支持以非阻塞方式运行这段代码呢？即，在这段代码运行期间，该服务还可以接收并处理新的消息？

查看详情
无图