BR 技术头条 技术链接、资讯与社区分享流
yq yq.aliyun.com / 2019-02-28 17:03 / by @可耐芊小仙女

记录一次MySQL两千万数据的大表优化解决过程，提供三种解决方案

打开原文 0 条评论
使用阿里云rds for MySQL数据库（就是MySQL5.6版本），有个用户上网记录表6个月的数据量近2000万，保留最近一年的数据量达到4000万，查询速度极慢，日常卡死。严重影响业务。

问题前提：老系统，当时设计系统的人大概是大学没毕业，表设计和sql语句写的不仅仅是垃圾，简直无法直视。原开发人员都已离职，到我来维护，这就是传说中的维护不了就跑路，然后我就是掉坑的那个！！！

赞过的人

@技术头条

发表评论

相关分享

ix ixyzero.com / 2025-01-12 12:08

学习了解数据仓库中的分层概念

本文详细介绍了数据仓库的分层概念，包括数据运营层（ODS）、数据仓库层（DW）和数据应用层（APP）。其中，DW层进一步细分为数据明细层（DWD）、数据中间层（DWM）和数据服务层（DWS）。文章阐述了各层的功能和作用，并通过实例说明如何在实际业务中应用这些分层概念。该内容适合数据工程师、数据分析师、数据架构师以及对数据仓库设计和实现感兴趣的技术人员阅读。

查看详情
无图
bl blog.delphij.net / 2025-01-03 00:15

数据的长期保存

这篇文章探讨了长期数据保存的策略与实践，详细分析了存储介质的选择、数据完整性保障方法以及常见的管理问题和解决方案。作者结合实践经验，提出了一套适用于个人和企业的数据保存规划。内容适合关注数据存储、安全备份及长期保存技术的开发者、IT 管理人员，以及对数据安全感兴趣的读者，提供了具有实用价值的参考建议。

查看详情
无图
co colobu.com / 2025-01-03 00:03

Go中秘而不宣的数据结构 CacheLinePad：精细化优化

这篇文章深入解析了 Go 语言中的 CacheLine 数据结构，详细探讨了其在多核环境下的内存对齐、伪共享问题以及性能优化方法。通过具体的代码示例和实验分析，文章展示了如何利用 CacheLine 提升并发程序的性能。内容专业且实用，对开发高性能 Go 应用的工程师有很高的参考价值，值得推荐阅读和分享。

查看详情
无图
co colobu.com / 2025-01-02 23:59

Go中秘而不宣的数据结构 BitVec, 资源优化方法之位向量

如何深入理解 Go 的内部数据结构？文章以 BitVec 为例，详细解析了其设计原理、实现方式以及在不同场景中的应用，还探讨了相关的性能优化策略和工程实践。这是一篇高质量的技术解读，为开发者学习 Go 的底层实现提供了宝贵的参考！

查看详情
无图
so soulteary.com / 2025-01-02 23:58

ThinkPad + Redis：构建亿级数据毫秒级查询的平民方案

如何用普通设备实现海量数据的毫秒级查询？文章分享了在 ThinkPad 上构建 Redis 系统的完整方案，详细解析了数据分片、查询优化和资源调配等关键技术，还提供了针对高效查询的实际案例。轻量化实现，高性能表现，为开发者提供了实用的参考思路，值得深入学习！

查看详情
无图
li lisenhui.cn / 2024-11-23 21:48

MySQL自带客户端直接免密登录操作

通过配置 MySQL 的 socket 身份认证插件，可实现本地用户无需密码直接登录数据库。这种方式适合开发测试环境，能提升便利性，同时确保本地环境安全性至关重要！你会尝试这种方法吗？

查看详情
无图
ix ixyzero.com / 2024-11-02 16:52

Hive SQL如何找出连续日期数据之间的较大波动

本文介绍了在 Hive SQL 中如何识别连续日期数据的显著波动，适用于异常检测。使用窗口函数 `LAG` 和 `LEAD` 提取前后日期数据，通过对比当天与昨日、近几日的均值或分位数来判定异常。文中提供了查询示例，通过阈值设定（如倍数增加或p90分位数）识别异常值，帮助分析用户行为或数据波动，为风控和数据监控提供技术支持。

查看详情
无图
bl blog.yuanpei.me / 2024-11-02 16:39

温故而知新：后端通用查询方案的再思考

本文探讨了后端通用查询方案的设计，通过 `Gridify` 库启发，提出基于泛型和接口的查询模型，优化分页和过滤功能。实现细节包括 `QueryParameter` 类和 `IQueryableFilter` 接口的使用，自定义模型绑定方式，使查询参数更灵活，支持多种前后端兼容格式。文章强调开发中平衡灵活性与规范性，并认为在 AI 辅助编程背景下，程序员应专注于复杂问题解决和生产关系的改善。

查看详情
无图
bl blog.devtang.com / 2024-11-02 16:25

第一性原理思考：解决问题的通用框架(续)

本文深入探讨了几种思维框架，包括28原理、谬误推导和终局思维等，帮助在决策中聚焦关键因素，判断信息真伪。文章还列举了常见误区，如误把相关性当因果、从众心理和情绪化决策等，提醒在信息泛滥中保持清晰的逻辑思维。通过案例分析，这些思维模式能有效提升问题解决和决策的效率。

查看详情
无图