BR 技术头条 技术链接、资讯与社区分享流
so soulteary.com / 2023-12-26 22:06 / by @技术头条 / 原作者：@soulteary

CPU 混合推理，非常见大模型量化方案：“二三五六” 位量化

打开原文 喜欢 1 请先微博登录后参与 0 条评论
本机暂存
本篇文章聊聊网上聊的比较少的具体量化操作，非常见整型位数的量化，来自让各种开源模型能够在 CPU 环境、CPU & GPU 环境混合推理的技术方案：llama.cpp 。

赞过的人

@IT技术博客大学习

发表评论

请先微博登录后参与

相关分享

zh www.zhangxinxu.com / 2025-01-03 00:13

如何使用JS获取系统内存、CPU/GPU、电量等信息

这篇文章讲解了如何通过 JavaScript 获取设备的内存、CPU、GPU 和电池等硬件信息，详细介绍了可用的 API、兼容性及实践场景。通过代码示例和性能分析，展示了如何在前端优化中合理利用这些数据。内容适合从事前端开发的工程师以及关注性能优化和用户体验提升的技术人员，提供了实用的开发参考。

查看详情
无图
so soulteary.com / 2025-01-02 23:58

ThinkPad + Redis：构建亿级数据毫秒级查询的平民方案

如何用普通设备实现海量数据的毫秒级查询？文章分享了在 ThinkPad 上构建 Redis 系统的完整方案，详细解析了数据分片、查询优化和资源调配等关键技术，还提供了针对高效查询的实际案例。轻量化实现，高性能表现，为开发者提供了实用的参考思路，值得深入学习！

查看详情
无图
bl blog.yuanpei.me / 2024-11-02 16:39

温故而知新：后端通用查询方案的再思考

本文探讨了后端通用查询方案的设计，通过 `Gridify` 库启发，提出基于泛型和接口的查询模型，优化分页和过滤功能。实现细节包括 `QueryParameter` 类和 `IQueryableFilter` 接口的使用，自定义模型绑定方式，使查询参数更灵活，支持多种前后端兼容格式。文章强调开发中平衡灵活性与规范性，并认为在 AI 辅助编程背景下，程序员应专注于复杂问题解决和生产关系的改善。

查看详情
无图
hu hubojing.github.io / 2024-08-06 08:12

【大模型系列】指令微调

本文总结了大模型中的指令微调（Instruction Tuning）技术，重点介绍了如何通过指令化数据对大语言模型进行参数微调以提升任务性能。文章探讨了数据构建方法如Self-Instruct和Evol-Instruct，以及微调策略包括优化设置和高效微调方法。通过这些技术，模型可以在多任务场景中表现出色。此内容对希望提升大语言模型能力的研究者和开发者具有参考价值。

查看详情
无图
hu hubojing.github.io / 2024-08-06 08:11

【大模型系列】提示学习

本文介绍了提示学习（Prompt Learning）的基础概念和应用场景。作者详细讨论了提示学习在大语言模型中的作用，以及如何通过优化提示来提高模型的任务表现。文章还分享了在实际应用中调整和设计提示的技巧，并探讨了该技术在自然语言处理中的未来发展趋势。这篇文章为希望利用大模型进行高效自然语言处理的开发者提供了有价值的见解。

查看详情
无图
bl blog.codingnow.com / 2024-05-05 23:26

大批量动画模型的优化

最近和公司一个开发团队探讨了一下他们正在开发的游戏中遇到的性能问题，看看应该如何优化。这个游戏的战斗场景想模仿亿万僵尸(They are billions）的场景。在亿万僵尸中，场景中描绘了上万的僵尸潮，但我们这个游戏，超过 500 个僵尸就遇到了性能问题。固然，手机的硬件性能比不上 PC ，但 500 这个数量级还是略低于预期。

对于游戏中大量类似的动画物体，肯定有方法可以优化。

查看详情
无图
co www.codedump.info / 2024-03-21 23:23

图解一致性模型

本文使用大量的图例，同时没有难懂的公式，意图解释清楚一致性模型要解决什么问题，以及三种一致性模型：顺序一致性、线性一致性、因果一致性。

查看详情
无图
co www.codedump.info / 2024-03-21 23:03

CPU篇之软中断

软中断作为下半部机制的代表，是随着SMP（share memory processor）的出现应运而生的，它也是tasklet实现的基础（tasklet实际上只是在软中断的基础上添加了一定的机制）。软中断一般是“可延迟函数”的总称，有时候也包括了tasklet（请读者在遇到的时候根据上下文推断是否包含tasklet）。它的出现就是因为要满足上面所提出的上半部和下半部的区别，使得对时间不敏感的任务延后执行，而且可以在多个CPU上并行执行，使得总的系统效率可以更高。

查看详情
无图