使用 Docker 来运行 HuggingFace 海量模型 (soulteary.com)

【简介】

本篇文章将分享如何通过 Docker 来在本地快速运行 Hugging Face 上的有趣模型。用比原项目更少的代码，和更短的时间成本将模型跑起来。如果你熟悉 Python，那么绝大多数的模型项目，都可以用 10 分钟左右的时间，完成本地的部署和运行。

点击查看原文 >>

由 @技术头条 2022-08-31 23:14 / 原作者微博：@soulteary / 0个评论
赞过的人： @IT技术博客大学习
要不要再学学下面的文章？
WSL运行时遇到未知异常错误无法使用 (lisenhui.cn)
遇到 WSL 提示“发生未知错误”无法启动的问题？可能是系统更新、配置冲突或文件损坏导致。可通过重启服务、检查日志、重装 WSL 或升级内核来排查解决。保持系统与 WSL 的版本更新至关重要！
by @技术头条 2024-11-23 21:49 查看详情
AWS运维部署实践--使用sigma自建镜像仓库代替ECR (wiki.eryajf.net)
本文介绍了如何使用 `sigma` 替代 AWS 的 ECR 作为轻量级的镜像仓库解决方案。通过配置 `s3` 存储、端口监听等设置，实现了低资源占用下的高效镜像管理。文章详细提供了 `config.yaml` 文件的配置方案，以及 `sigma` 部署的具体步骤，适合在自建环境中替代 ECR 进行镜像管理。
by @技术头条 2024-11-02 17:03 查看详情
Linux 安全 Auditd 审计工具使用说明 (dusays.com)
本文介绍了 Linux 的 Auditd 审计工具，用于监控和记录安全相关事件。内容涵盖工具安装、审计规则配置、日志管理和规则持久化。审计规则包括文件、系统调用的监控，适合检测敏感操作。通过 `auditctl`、`ausearch` 和 `aureport` 等工具，管理员可以分析日志并生成报告，提升系统的安全性和合规性。
by @技术头条 2024-11-02 16:54 查看详情
基于 Docker 搭建开发环境（三）：链路追踪 (www.diguage.com)
本文介绍了通过 Docker 配置 OpenTelemetry 和 Jaeger，实现分布式链路追踪。详细讲解了如何使用 OpenTelemetry Agent 和 Collector 配置尾部采样策略，识别慢请求和错误。结合 Prometheus 和 Grafana，构建全面的监控和追踪系统。提供了具体的 `docker-compose.yml` 配置文件示例，适合需要全链路可观测性的分布式应用开发环境。
by @技术头条 2024-11-02 16:34 查看详情
基于 Docker 搭建开发环境（二）：EFK 日志套件 (www.diguage.com)
本文介绍了如何使用 Docker 和 EFK（Elasticsearch、Fluentd、Kibana）套件构建日志管理系统，通过 Fluentd 将 NACOS 和业务日志集中发送至 Elasticsearch，方便数据分析和故障排查。文章提供了 `docker-compose.yml` 配置文件示例，解决了插件安装、权限设置和健康检查等常见问题，为构建灵活高效的日志管理系统提供了实用方法。
by @技术头条 2024-11-02 16:33 查看详情
基于 Docker 搭建开发环境（一）：数据库+监控 (www.diguage.com)
本文介绍了使用 Docker 构建开发环境的步骤，涵盖 MySQL 数据库配置、Nacos 服务发现与配置管理、Prometheus 监控及 Grafana 可视化。通过 Docker Compose 结构化配置，实现了多组件集成。文章提供了详细的 `docker-compose.yml` 文件示例，并探讨了自动接入监控、应用打包等优化方向，适用于需要集中管理多项开发工具的场景。
by @技术头条 2024-11-02 16:33 查看详情
使用结构化数据管理 SSH 配置：SSH Config Tool (soulteary.com)
本文介绍了使用 SSH Config Tool 管理 SSH 配置的最佳实践。工具将复杂的 SSH 配置简化为 YAML 格式，实现模块化和自动化管理，适用于设备多、配置庞杂的场景。通过 YAML 文件生成精简的 SSH Config，可提高可读性，减少冗余。工具支持 Docker 运行和 Linux 管道，提供灵活的跨平台应用方式。
by @技术头条 2024-11-02 16:27 查看详情
如何使用纯CSS鉴别是不是Safari浏览器 (www.zhangxinxu.com)
如何通过纯 CSS 来判断是否为 Safari 浏览器？本文介绍了多种实用技巧和 @supports 规则的使用，帮助开发者轻松检测并处理 Safari 特有的样式兼容性问题。无论是桌面还是 iOS Safari，本文都有详细的解决方案！
by @技术头条 2024-09-09 23:40 查看详情
Android｜使用阿里云推流 SDK 实现双路推流不同画面 (mazhuang.org)
想知道如何在 Android 中通过阿里云 SDK 实现双路推流不同画面？本文介绍了一个巧妙的解决方案，虽然阿里云 SDK 不支持原生多路推流，但通过跨进程调用，实现了同时推送不同区域的画面，适用于直播和录播场景的分离展示。开发者不容错过的实战分享，赶快阅读！
by @技术头条 2024-09-08 23:26 查看详情
【大模型系列】指令微调 (hubojing.github.io)
本文总结了大模型中的指令微调（Instruction Tuning）技术，重点介绍了如何通过指令化数据对大语言模型进行参数微调以提升任务性能。文章探讨了数据构建方法如Self-Instruct和Evol-Instruct，以及微调策略包括优化设置和高效微调方法。通过这些技术，模型可以在多任务场景中表现出色。此内容对希望提升大语言模型能力的研究者和开发者具有参考价值。
by @技术头条 2024-08-06 08:12 查看详情
使用微博登录，分享你的文章到本站