记录一次MySQL两千万数据的大表优化解决过程，提供三种解决方案--技术头条 -- 微博大V帮你宣传技术博文开发者头条码农头条

记录一次MySQL两千万数据的大表优化解决过程，提供三种解决方案 (yq.aliyun.com)

【简介】

使用阿里云rds for MySQL数据库（就是MySQL5.6版本），有个用户上网记录表6个月的数据量近2000万，保留最近一年的数据量达到4000万，查询速度极慢，日常卡死。严重影响业务。

问题前提：老系统，当时设计系统的人大概是大学没毕业，表设计和sql语句写的不仅仅是垃圾，简直无法直视。原开发人员都已离职，到我来维护，这就是传说中的维护不了就跑路，然后我就是掉坑的那个！！！

点击查看原文 >>

由 @可耐芊小仙女 2019-02-28 17:03 / 0个评论

赞过的人： @技术头条

学习了解数据仓库中的分层概念 (ixyzero.com)

本文详细介绍了数据仓库的分层概念，包括数据运营层（ODS）、数据仓库层（DW）和数据应用层（APP）。其中，DW层进一步细分为数据明细层（DWD）、数据中间层（DWM）和数据服务层（DWS）。文章阐述了各层的功能和作用，并通过实例说明如何在实际业务中应用这些分层概念。该内容适合数据工程师、数据分析师、数据架构师以及对数据仓库设计和实现感兴趣的技术人员阅读。

by @技术头条 2025-01-12 12:08 查看详情

Java｜如何用一个统一结构接收成员名称不固定的数据 (mazhuang.org)

文章通过企业微信接口示例，介绍用 Jackson 的 @JsonAlias 注解处理 Java 中不固定字段名的 JSON 数据，提升解析通用性。适合需统一处理多样 JSON 数据的 Java 开发者。

by @技术头条 2025-01-12 12:05 查看详情

数据的长期保存 (blog.delphij.net)

这篇文章探讨了长期数据保存的策略与实践，详细分析了存储介质的选择、数据完整性保障方法以及常见的管理问题和解决方案。作者结合实践经验，提出了一套适用于个人和企业的数据保存规划。内容适合关注数据存储、安全备份及长期保存技术的开发者、IT 管理人员，以及对数据安全感兴趣的读者，提供了具有实用价值的参考建议。

by @技术头条 2025-01-03 00:15 查看详情

Go中秘而不宣的数据结构 CacheLinePad：精细化优化 (colobu.com)

这篇文章深入解析了 Go 语言中的 CacheLine 数据结构，详细探讨了其在多核环境下的内存对齐、伪共享问题以及性能优化方法。通过具体的代码示例和实验分析，文章展示了如何利用 CacheLine 提升并发程序的性能。内容专业且实用，对开发高性能 Go 应用的工程师有很高的参考价值，值得推荐阅读和分享。

by @技术头条 2025-01-03 00:03 查看详情

Go中秘而不宣的数据结构 BitVec, 资源优化方法之位向量 (colobu.com)

如何深入理解 Go 的内部数据结构？文章以 BitVec 为例，详细解析了其设计原理、实现方式以及在不同场景中的应用，还探讨了相关的性能优化策略和工程实践。这是一篇高质量的技术解读，为开发者学习 Go 的底层实现提供了宝贵的参考！

by @技术头条 2025-01-02 23:59 查看详情

ThinkPad + Redis：构建亿级数据毫秒级查询的平民方案 (soulteary.com)

如何用普通设备实现海量数据的毫秒级查询？文章分享了在 ThinkPad 上构建 Redis 系统的完整方案，详细解析了数据分片、查询优化和资源调配等关键技术，还提供了针对高效查询的实际案例。轻量化实现，高性能表现，为开发者提供了实用的参考思路，值得深入学习！

by @技术头条 2025-01-02 23:58 查看详情

MySQL自带客户端直接免密登录操作 (lisenhui.cn)

通过配置 MySQL 的 socket 身份认证插件，可实现本地用户无需密码直接登录数据库。这种方式适合开发测试环境，能提升便利性，同时确保本地环境安全性至关重要！你会尝试这种方法吗？

by @技术头条 2024-11-23 21:48 查看详情

Hive SQL如何找出连续日期数据之间的较大波动 (ixyzero.com)

本文介绍了在 Hive SQL 中如何识别连续日期数据的显著波动，适用于异常检测。使用窗口函数 `LAG` 和 `LEAD` 提取前后日期数据，通过对比当天与昨日、近几日的均值或分位数来判定异常。文中提供了查询示例，通过阈值设定（如倍数增加或p90分位数）识别异常值，帮助分析用户行为或数据波动，为风控和数据监控提供技术支持。

by @技术头条 2024-11-02 16:52 查看详情

温故而知新：后端通用查询方案的再思考 (blog.yuanpei.me)

本文探讨了后端通用查询方案的设计，通过 `Gridify` 库启发，提出基于泛型和接口的查询模型，优化分页和过滤功能。实现细节包括 `QueryParameter` 类和 `IQueryableFilter` 接口的使用，自定义模型绑定方式，使查询参数更灵活，支持多种前后端兼容格式。文章强调开发中平衡灵活性与规范性，并认为在 AI 辅助编程背景下，程序员应专注于复杂问题解决和生产关系的改善。

by @技术头条 2024-11-02 16:39 查看详情

第一性原理思考：解决问题的通用框架(续) (blog.devtang.com)

本文深入探讨了几种思维框架，包括28原理、谬误推导和终局思维等，帮助在决策中聚焦关键因素，判断信息真伪。文章还列举了常见误区，如误把相关性当因果、从众心理和情绪化决策等，提醒在信息泛滥中保持清晰的逻辑思维。通过案例分析，这些思维模式能有效提升问题解决和决策的效率。

by @技术头条 2024-11-02 16:25 查看详情