在 kubernetes 环境下如何优雅扩缩容 Pulsar--技术头条 -- 微博大V帮你宣传技术博文开发者头条码农头条

在 kubernetes 环境下如何优雅扩缩容 Pulsar (crossoverjie.top)

【简介】

在整个大环境的降本增效的熏陶下，我们也不得不做好应对方案。

根据对线上流量、存储以及系统资源的占用，发现我们的 Pulsar 集群有许多的冗余，所以考虑进行缩容从而减少资源浪费，最终也能省一些费用。

不过在缩容之前很有必要先聊聊扩容，Pulsar 一开始就是存算分离的架构（更多关于 Pulsar 架构的内容本文不做过多介绍，感兴趣的可以自行搜索），天然就非常适合 kubernetes 环境，也可以利用 kubernetes 的能力进行快速扩容。

点击查看原文 >>

由 @技术头条 2024-03-31 21:12 / 原作者微博：@crossoverJie / 0个评论

赞过的人： @IT技术博客大学习

一种在 Electron 和 Web 环境下显示原生及自定义菜单的通用方法 (innei.in)

在 Electron 和 Web 环境下如何统一展示原生和自定义菜单？本文提供了通用的解决方案，通过封装组件和调用方法，解决了两种环境下菜单交互不一致的问题。如果你正在开发跨平台应用，这篇文章能为你提供实用的开发技巧！

by @技术头条 2024-09-09 23:44 查看详情

Spark向量化计算在美团生产环境的实践 (tech.meituan.com)

美团在 Spark 生产环境中引入了向量化计算，使用 Gluten 和 Velox 框架，实现了大数据任务的加速和资源优化。本文详细讲解了 Spark 向量化的原理、性能提升以及美团的实施过程和遇到的挑战，适合关注大数据优化的技术人员。

by @技术头条 2024-09-09 23:41 查看详情

Kubernetes中的事件收集以及监控告警 (jokerbai.com)

随着微服务以及云原生的发展，越来越多的企业都将业务部署运行到Kubernetes中，主要是想依托Kubernetes的可扩展、可伸缩、自动化以及高稳定性来保障业务的稳定性。
然而，Kubernetes本身是一个复杂的管理系统，它既然是作为企业业务的基础设施，其本身以及运行在集群内部的业务系统对于企业来说都变得非常重要。

by @技术头条 2024-05-05 23:22 查看详情

白话 Pulsar Bookkeeper 的存储模型 (crossoverjie.top)

最近我们的 Pulsar 存储有很长一段时间数据一直得不到回收，但消息确实已经是 ACK 了，理论上应该是会被回收的，随着时间流逝不但没回收还一直再涨，最后在没找到原因的情况下就只有一直不停的扩容。

为了防止类似的问题再次发生，我们希望可以监控到磁盘维度，能够列出各个日志文件的大小以及创建时间。

这时就需要对 Pulsar 的存储模型有一定的了解，也就有了这篇文章。

by @技术头条 2024-01-17 23:10 查看详情

细说Kubernetes Pod的驱逐 (jokerbai.com)

Kubernetes Pods被驱逐是什么意思？它们被终止了，通常是由于没有足够的资源，但是为什么会发生这种情况呢？

驱逐是一个过程，分配给一个节点的Pod被要求终止。Kubernetes中最常见的情况之一是抢占，为了在资源有限的节点上安排一个新的Pod，通常需要终止另外一个Pod。

另外，Kubernetes会不断检查资源使用情况，当节点压力过大的时候，会触发节点压力驱逐。

每天，数以千计的Pod被驱逐出他们的家园。搁浅和迷茫，他们不得不放弃以前的生活方式。他们中的一些人甚至会无家可归。当前的社会，对CPU和内存的要求会越来越高。

by @技术头条 2023-12-11 23:04 查看详情

Kubernetes OOM和CPU节流 (jokerbai.com)

使用 Kubernetes 时，内存不足 (OOM) 错误和 CPU 节流是云应用程序中资源处理的主要难题。
这是为什么？
云应用程序中的 CPU 和内存要求变得越来越重要，因为它们与您的云成本直接相关。
通过 limits 和 requests ，您可以配置 pod 应如何分配内存和 CPU 资源，以防止资源匮乏并调整云成本。
如果节点没有足够的资源， Pod 可能会通过抢占或节点压力被驱当一个进程运行内存不足 (OOM) 时，它会被终止，因为它没有所需的资源。
如果 CPU 消耗高于实际限制，进程将开始节流。
但是，如何主动监控 Kubernetes Pod 到达 OOM 和 CPU 节流的距离有多近？

by @技术头条 2023-12-01 09:47 查看详情

在Kubernetes中从0打造可观测性 (jokerbai.com)

在这篇文章中，我们将在Kubernetes中使用Grafana、Prometheus、Loki、Tempo、OpenTelemetry来搭建可观测性平台。其中Grafana作为操作面板，Prometheus、Loki、Tempo作为数据源，分别用来获取指标、日志以及跟踪数据。同时，我们还将使用Exemplars将trace_id与Java指标相关联，使用OpenTelemetry对应用进行检测。

by @技术头条 2023-11-30 23:22 查看详情

一文搞懂Kubernetes的Limits和Requests (jokerbai.com)

当在Kubernetes中使用容器时，重要的是要知道所涉及的资源是什么以及如何需要它们。有些进程比其他进程需要更多的CPU或内存。有些是关键的，不应该被饿死。
知道了这一点，我们应该正确配置我们的容器和Pod，以获得两者的最佳效果。

by @技术头条 2023-11-30 23:21 查看详情

升级到 Pulsar3.0 后深入了解 JWT 鉴权 (crossoverjie.top)

最近在测试将 Pulsar 2.11.2 升级到 3.0.1的过程中碰到一个鉴权问题，正好借着这个问题充分了解下 Pulsar 的鉴权机制是如何运转的。

Pulsar 支持 Namespace/Topic 级别的鉴权，在生产环境中往往会使用 topic 级别的鉴权，从而防止消息泄露或者其他因为权限管控不严格而导致的问题。

by @技术头条 2023-11-29 23:45 查看详情

在 kubernetes 环境中实现 gRPC 负载均衡 (crossoverjie.top)

要解决 gRPC 的负载均衡通常有两种方案：1、服务端负载均衡；2、客户端负载均衡。

在 gRPC 这个场景服务端负载均衡不是很合适，所有的请求都需要经过一个负载均衡器，这样它就成为整个系统的瓶颈，所以更推荐使用客户端负载均衡。客户端负载均衡目前也有两种方案，最常见也是传统方案。

by @技术头条 2023-10-30 23:02 查看详情