IT技术博客大学习 共学习 共进步
全部 移动开发 后端 数据库 AI 算法 安全 DevOps 前端 设计 开发者

标签:资源调度

共 2 篇相关文章

IT 累计浏览 3,506

YARN ResourceManager调度器的分析

这篇深度剖析了YARN ResourceManager中三种核心调度器:FifoScheduler、CapacityScheduler与FairScheduler的设计逻辑与差异。文章从ResourceManager作为资源调度中心的架构出发,详细拆解了调度器的事件处理机制与异步分配模型——即调度器如何通过响应节点心跳、应用提交等六类事件,在内存中维护队列、应用与Container的关系,并最终完成资源匹配。 文章的核心价值在于清晰的对比分析。FifoScheduler结构最简单,适合小规模场景;CapacityScheduler通过树状队列与容量限制,旨在最大化集群整体吞吐与利用率;而FairScheduler则侧重于多用户间的资源公平共享,支持动态队列创建与资源抢占。除了基础模型,作者还深入解读了本地优化与延迟调度机制:调度器会优先匹配与数据本地性一致的Container,若不匹配则“延迟”等待机会,以此平衡网络开销与调度效率。 文末提供了与调度器紧密相关的集群参数配置解读,帮助读者将理论理解落地。对于需要根据实际业务需求(如多租户隔离、公平性或高吞吐)选型与调优YARN调度器的工程师而言,这是一篇逻辑清晰、细节扎实的参考。

IT 累计浏览 2,053

云平台的8种资源管理策略

这篇写的是国内云平台普遍被忽视的一个方面:整体资源管理策略。 作者从现状出发指出,目前大量的研究精力集中在并行计算和分布式文件系统等单点技术上,而对如何调度计算和存储资源以实现平台整体弹性,讨论得还不够充分。 为此,老蒋梳理并总结了当前云平台中,保障资源弹性所采用的八种核心策略。这些策略涵盖了计算与存储资源的调度方法,为理解云的弹性能力提供了具体的分析框架。 文章的核心目的在于抛砖引玉,作者希望通过这次梳理,能推动大家对“如何真正保障云的弹性”这一关键问题进行更深入的探讨。