Serverless助力AI计算：阿里云ACK Serverless/ECI发布GPU容器实例 (yq.aliyun.com)

【简介】

AI计算离不开GPU已经是行业共识，然而从零开始搭建GPU集群环境是件相对复杂的任务，包括GPU规格购买、机器准备、驱动安装、容器环境安装等。GPU资源的serverless交付方式，充分的展现了serverless的核心优势，其向用户提供标准化而且“开箱即用”的资源供给能力，用户无需购买机器也无需登录到节点安装GPU驱动，极大降低了AI平台的部署复杂度，让客户关注在AI模型和应用本身而非基础设施的搭建和维护，让使用GPU/CPU资源就如同打开水龙头一样简单方便，同时按需计费的方式让客户按照计算任务进行消费， 避免包年包月带来的高成本和资源浪费。

点击查看原文 >>

由 @可耐芊小仙女 2019-05-29 14:53 / 0个评论
要不要再学学下面的文章？
基于 LLaMA 和 LangChain 实践本地 AI 知识库 (blog.yuanpei.me)
通用人工智能，即：AGI（Artificial General Intelligence）的实现，正在以肉眼可见的速度被缩短，以前在科幻电影中看到的种种场景，或许会比我们想象中来得更快一些。不过，等待 AGI 来临前的黑夜注定是漫长而孤寂的。在此期间，我们继续来探索 AI 应用落地的最佳实践，即：在成功部署本地 AI 大模型后，如何通过外挂知识库的方式为其 “注入” 新的知识。
by @技术头条 2024-03-13 13:12 查看详情
使用 llama.cpp 在本地部署 AI 大模型的一次尝试 (blog.yuanpei.me)
本文旨在尝试使用 llama.cpp 在本地部署 AI 大模型，随着人工智能的快速发展，我们逐渐认识到私有化部署的重要性和潜力。在此背景下，llama.cpp 作为一个纯 C/C++ 实现的 LLaMA 模型推理工具，提供了在本地环境下高性能的 AI 推理能力。在这篇文章中，我们可以了解到 llama.cpp 具有在 GPU 和 CPU 环境下运行的灵活性，满足私有化部署的需求。文章详细介绍了 llama.cpp 编译和部署的过程，为读者提供了一份在本地部署 AI 大模型的教程。私有化部署的 AI 大模型，相比于 ChatGPT 这类通用大模型，更注重数据隐私和安全性，对云服务的依赖更少，可以做到更好的本地化控制。虽然编译 llama.cpp 有一定的复杂性，AI 大模型的下载、转化、量化需要一定的耐心，可当本地的 AI 应用运行起来的那一刻，博主觉得这一切完全值得。
by @技术头条 2024-03-12 22:29 查看详情
关于 Docker 容器配置信息的渐进式思考 (blog.yuanpei.me)
容器内的配置管理，唯一正确的方向就是让配置和容器分离。不管你是用文中这些方案中的哪一种，其关键就是让配置动态地在容器内生效，而非固化到容器中。
by @技术头条 2023-10-18 00:13 查看详情
Dubbo 应用切换 ZooKeeper 注册中心实例，流量无损迁移 (mazhuang.org)
首先思考一个问题：如果 Dubbo 应用使用 ZooKeeper 作为注册中心，现在需要切换到新的 ZooKeeper 实例，如何做到流量无损？

本文提供解决这个问题的一种方案。
by @技术头条 2023-09-10 23:30 查看详情
使用 Docker 快速上手 Stability AI 的 SDXL 1.0 正式版 (soulteary.com)
本篇文章，我们聊聊如何使用 Docker 来本地部署使用 Stability AI 刚刚推出的 SDXL 1.0，新一代的开源图片生成模型，以及在当前如何高效的使用显卡进行推理。
by @技术头条 2023-08-18 23:07 查看详情
容器与云，分步指南：安装和访问 Kubernetes 仪表板 (linux.cn)
Kubernetes 是一个开源容器编排平台，已成为大规模管理容器化应用的首选解决方案。虽然 Kubernetes 提供了强大的命令行工具来管理集群，但有时可视化界面可以使监控和管理部署变得更加容易。Kubernetes 仪表板是一个基于 Web 的用户界面，可让你可视化 Kubernetes 集群并与之交互。

在这篇博文中，我们将逐步引导你完成安装和访问 Kubernetes Dashboard 的过程，使你能够简化 Kubernetes 管理任务。
by @技术头条 2023-08-07 23:27 查看详情
基于AI+数据驱动的慢查询索引推荐 (tech.meituan.com)
目前，美团内部的日均慢查询数量已经超过上亿条，如何对对这些慢查询进行分析并建立合适的索引，是美团数据库研发中心面临的一项挑战。美团数据库平台研发组与华东师范大学展开了科研合作，通过基于AI+数据驱动的索引推荐，来与基于代价的方法并行地为慢查询推荐索引，以提升推荐效果。
by @技术头条 2023-07-04 23:28 查看详情
iptables 及 docker 容器网络分析 (thiscute.world)
本文先介绍 iptables 的基本概念及常用命令，然后分析 docker/podman 是如何利用 iptables 和 Linux 虚拟网络接口实现的单机容器网络。
by @技术头条 2023-07-04 23:16 查看详情
AI 加持的代码编写实战：快速实现 Nginx 配置格式化工具 (soulteary.com)
本篇文章聊聊如何使用 GPT 快速完成一个开源小项目，解决实际的问题，顺手点亮 GitHub 上 Nginx 开源社区的贡献者图标。“Talk is Cheap，Show you the Code。
by @技术头条 2023-07-02 23:45 查看详情
理解flannel的三种容器网络方案原理 (www.zhengwenfeng.com)
本文主要介绍flannel在k8s网络中作为网络插件通过UDP、VXLAN、HOST-GATEWAY三种模式来解决容器跨主机网络通信的，并通过手动实现这三种模式深入理解其原理。
by @技术头条 2023-07-02 23:44 查看详情
使用微博登录，分享你的文章到本站