K8S/Docker中对于容器内存的监控--技术头条 -- 微博大V帮你宣传技术博文开发者头条码农头条

【简介】

在使用Docker或者Kubernetes时，我们经常需要监控容器或者Pod的内存，同时我们也经常收到反馈内存不准确的情况，这不仅是因为存在Buffer、Cache的影响，不同的算法指标也会得出不同的结果。

接下来我们先回顾下我们最古老的计算方法，然后分别取分析docker stats 和 kubectl top 中的内存计算方法。

点击查看原文 >>

由 @技术头条 2022-12-10 22:58 / 0个评论

赞过的人： @IT技术博客大学习

如何根据LLM的参数估算内存（显存）使用量 (it.deepinmind.com)

理解像Mistral-7B这样的模型的内存需求量对于优化其部署和使用至关重要。对于考虑使用云计算服务进行模型训练和推理的人来说更是如此，因为它会影响到硬件的选择和整体成本。

by @技术头条 2024-04-03 01:54 查看详情

JVM内存问题排查流程 (l1n.wang)

首先确认问题现象，可以通过服务状态，监控面板、日志信息、监控工具（VisualVM）等，确认问题类型：
1、内存使用率居高不下、内存缓慢增加、OOM等；
2、频繁GC：Full GC等；
发现问题不建议重启，留存状态。

by @技术头条 2024-03-12 22:26 查看详情

Linux上文件监控的踩坑分享 (www.cnxct.com)

在Linux主机安全产品HIDS中，文件监控是特别常见的需求，在实现方案上，Linux内核层提供了文件变动的通知机制fsnotify，然而，在高磁盘IO的主机上、不同版本的内核上以及海量监控目标中，将会面临哪些问题呢？业务性能与安全性如何做更好地取舍均衡？今天，我的小伙伴阿松给大家分享以下文件监控系统的建设历程。

by @技术头条 2024-01-17 23:09 查看详情

应用程序的内存是大还是小？ (www.diguage.com)

应该在内存容量大的少量实例（即机器）上运行应用程序，还是在内存容量小的大量实例上运行应用程序？哪种策略是最佳的？这个问题可能会经常遇到。在开发应用程序长达 20 年，且构建了 JVM 性能工程/故障排除工具（ GCeasy、 FastThread,、 HeapHero）之后，我仍然不知道这个问题的正确答案。同时，我相信这个问题也没有非黑即白的答案。在本文中，我想与大家分享一下我对这个问题的看法和经验。

by @技术头条 2024-01-13 23:50 查看详情

k8s入门到实战-应用探针 (crossoverjie.top)

日常我们大部分使用 kubernetes 的功能就是以往运维的工作，现在云原生将运维和研发关系变得更紧密了。

今天主要讲解 Probe 探针相关的功能，探针最实用的功能就是可以控制应用优雅上线。

by @技术头条 2023-12-26 22:21 查看详情

32 位的操作系统也能使用超过4G的内存-PAE 技术简介 (www.addesp.com)

阅读本文章前请确认对X86下的分页机制有最基本的了解，否则将难以理解本文中提到的内容。本文介绍的内容均位X86架构下的PAE技术，而不是ARM架构下的LPAE技术，虽然两者从本质来说是一样的。

by @技术头条 2023-11-06 23:32 查看详情

如何让监控告警更准确？ (ixyzero.com)

对于7*24小时不间断运行的后台服务，监控告警是稳定性运行的基石。很多开发者都有过这样的经历，对服务的每一个指标都做了严格的监控和告警，唯恐漏掉告警导致问题无法发现，导致每天接收到大量的无效告警，告警的泛滥逐渐麻痹了警惕性，结果真实的问题初漏端倪时却被忽略，最终导致了严重的故障。

如何提升告警的有效性，准确识别问题，同时又不至于淹没在大量的无效告警中，正是本文所探讨的内容。

by @技术头条 2023-10-30 22:58 查看详情

k8s入门到实战-使用Ingress (crossoverjie.top)

Ingress 通常是充当网关的作用，后续我们在使用 Istio 时，也可以使用 Istio 所提供的控制器来替换掉 Ingress-nginx，可以更方便的管理内外网流量。

by @技术头条 2023-10-25 00:01 查看详情

关于 Docker 容器配置信息的渐进式思考 (blog.yuanpei.me)

容器内的配置管理，唯一正确的方向就是让配置和容器分离。不管你是用文中这些方案中的哪一种，其关键就是让配置动态地在容器内生效，而非固化到容器中。

by @技术头条 2023-10-18 00:13 查看详情

算法部署从docker到K8s (yance.wiki)

最近需要做一次面向公司的算法团队的k8s培训，算法的同事对于docker和gpu的使用还是比较熟悉的，随着大模型的发展，很多训练、测试、数据处理的任务都需要在k8s上进行，所以需要对k8s有一个基本的了解，基于这样的背景，我结合docker的使用，对k8s的一些概念进行了类

by @技术头条 2023-09-10 23:17 查看详情