玩转ECS第6讲 | 弹性计算Region化部署和跨可用区容灾介绍--技术头条 -- 微博大V帮你宣传技术博文开发者头条码农头条

玩转ECS第6讲 | 弹性计算Region化部署和跨可用区容灾介绍 (developer.aliyun.com)

【简介】

本次分享由阿里云弹性计算架构负责人李钟（谢顿）为大家介绍阿里云region化部署和跨可用区容灾的实践经验，说明多Region部署场景中使用阿里云弹性计算的最佳实践，并结合弹性计算的实践经验探讨如何基于阿里云多可用区实现跨地域容灾。

由 @可耐芊小仙女 2020-11-09 14:44 / 0个评论

在分布式系统中，由于有多个机器（进程）在一起协调工作，于是如何定义分布式系统中事件的先后顺序就成了难题，本文介绍论文《Time, Clocks, and the Ordering of Events in a Distributed System》中提到的Lamport时钟。

by @技术头条 2024-03-21 23:24 查看详情

使用 llama.cpp 在本地部署 AI 大模型的一次尝试 (blog.yuanpei.me)

本文旨在尝试使用 llama.cpp 在本地部署 AI 大模型，随着人工智能的快速发展，我们逐渐认识到私有化部署的重要性和潜力。在此背景下，llama.cpp 作为一个纯 C/C++ 实现的 LLaMA 模型推理工具，提供了在本地环境下高性能的 AI 推理能力。在这篇文章中，我们可以了解到 llama.cpp 具有在 GPU 和 CPU 环境下运行的灵活性，满足私有化部署的需求。文章详细介绍了 llama.cpp 编译和部署的过程，为读者提供了一份在本地部署 AI 大模型的教程。私有化部署的 AI 大模型，相比于 ChatGPT 这类通用大模型，更注重数据隐私和安全性，对云服务的依赖更少，可以做到更好的本地化控制。虽然编译 llama.cpp 有一定的复杂性，AI 大模型的下载、转化、量化需要一定的耐心，可当本地的 AI 应用运行起来的那一刻，博主觉得这一切完全值得。

by @技术头条 2024-03-12 22:29 查看详情

美团RASP大规模研发部署实践总结 (tech.meituan.com)

RASP是Runtime Application Self-Protection（运行时应用自我保护）的缩写，是一种应用程序安全技术。RASP 技术能够在应用程序运行时检测并阻止应用级别的攻击。随着云计算和大数据的发展，应用程序安全越来越受到重视。RASP 技术作为一种新型的安全防护手段，正在逐渐被业界接受并广泛应用。

by @技术头条 2024-01-28 23:48 查看详情

美团RASP大规模研发部署实践总结 (www.cnxct.com)

RASP是Runtime Application Self-Protection（运行时应用自我保护）的缩写，是一种应用程序安全技术。RASP 技术能够在应用程序运行时检测并阻止应用级别的攻击。随着云计算和大数据的发展，应用程序安全越来越受到重视。RASP 技术作为一种新型的安全防护手段，正在逐渐被业界接受并广泛应用。其中Java RASP 是一种针对 Java 应用程序的 RASP 技术。通过在 Java 虚拟机（JVM）级别进行监控和防护，能够有效防止对 Java 应用程序的攻击。

by @技术头条 2024-01-17 23:15 查看详情

算法部署从docker到K8s (yance.wiki)

最近需要做一次面向公司的算法团队的k8s培训，算法的同事对于docker和gpu的使用还是比较熟悉的，随着大模型的发展，很多训练、测试、数据处理的任务都需要在k8s上进行，所以需要对k8s有一个基本的了解，基于这样的背景，我结合docker的使用，对k8s的一些概念进行了类

by @技术头条 2023-09-10 23:17 查看详情

在一些轻量化的场景之中，使用 ELK 方案来解决日志问题就会比较笨重，素闻 Loki 比较香，今天折腾了一番，特此记录一下整个流程。本文不涉及 Loki 的深度使用与研究，但是参照本文，你可以快速把 Loki 拉起来，并且把 Nginx 日志正确采集进来。

by @技术头条 2023-06-05 23:53 查看详情

弹性AI团队工作流平台设计 (54chen.com)

AI行业的发展越来越规范，一套有效的CI/CD平台，可以让一个AI团队的工作效率大幅提升。但当前市场上五花八门的云平台让人难以决择，究竟如何做才是正确的，本文以MLflow，Jenkins和AWS SageMaker为基础，兼顾不同时期的团队的替换可能性，为基础架构提供技术选型。

by @技术头条 2023-02-12 21:24 查看详情

美团视觉GPU推理服务部署架构优化实践 (tech.meituan.com)

面对在线推理服务使用的GPU资源不断增加、GPU利用率普遍较低的挑战，美团视觉研发团队决定通过模型结构拆分和微服务化进行优化，他们提出一种通用高效的部署架构，来解决这种常见的性能瓶颈问题。以“图像检测+分类”服务为例，优化后的服务压测性能指标GPU利用率由40%提升至100%，QPS也提升超过3倍。本文将会重点介绍推理服务部署架构优化的工程实践，希望对大家能有所帮助或启发。

by @技术头条 2023-02-12 14:37 查看详情

通过编写嵌入式系统入门边缘计算 (linux.cn)

用于操控无线调制解调器的 AT 设备包是 RTOS 最流行的扩展功能之一。

RTOS 是一个开源的嵌入式设备操作系统，由 RT-Thread 开发。它为开发者提供了标准化的、友好的基础架构，开发者可以基于各种设备编写代码，它包含大量有用的类库和工具包，使开发过程更加便捷。

RTOS 使用的是模块方式，以便于扩展，这一点跟 Linux 类似。各种软件包可以让开发者将 RTOS 用于任何想要的目标设备。RTOS 最常用的一种扩展是 AT 设备包，它包含各种不同 AT 设备（例如调制解调器）的移植文件和示例代码。

在超过 62,000 次下载中（截止至撰写本文时），最流行的 RTOS 扩展之一是 AT 设备包，其中包括用于不同 AT 设备的移植文件和示例代码。

by @技术头条 2023-02-12 14:08 查看详情

部署机器学习方案之困（下） (blog.nsfocus.net)

在工业环境中开发基于机器学习的解决方案包括四个阶段：数据管理、模型学习、模型验证和模型部署，而这些阶段没有严格的时间轴，在一定程度上存在并行和反馈循环。本节将讨论从业者在最后一个阶段中面临的常见问题和挑战，并讨论涉及到的其他问题。

by @技术头条 2023-02-12 14:05 查看详情