MySql批量插入时，如何不插入重复的数据--技术头条 -- 微博大V帮你宣传技术博文开发者头条码农头条

MySql批量插入时，如何不插入重复的数据 (mp.weixin.qq.com)

【简介】

业务很简单：需要批量插入一些数据，数据来源可能是其他数据库的表，也可能是一个外部excel的导入

那么问题来了，是不是每次插入之前都要查一遍，看看重不重复，在代码里筛选一下数据，重复的就过滤掉呢？

由 @code小生 2022-02-13 22:18 / 0个评论

本文介绍了在 Hive SQL 中如何识别连续日期数据的显著波动，适用于异常检测。使用窗口函数 `LAG` 和 `LEAD` 提取前后日期数据，通过对比当天与昨日、近几日的均值或分位数来判定异常。文中提供了查询示例，通过阈值设定（如倍数增加或p90分位数）识别异常值，帮助分析用户行为或数据波动，为风控和数据监控提供技术支持。

by @技术头条 2024-11-02 16:52 查看详情

新一代实验分析引擎：驱动履约平台的数据决策 (tech.meituan.com)

本文介绍了美团履约技术平台的新一代实验分析引擎，该引擎对核心实验框架进行了标准化，并融合了众多先进解决方案，有效解决小样本挑战。同时，提供了多样化的溢出效应应对策略，并针对不同业务场景提供了精准的方差和P值计算方法，以规避统计误差。希望对大家有所帮助或启发。

by @技术头条 2024-11-02 16:18 查看详情

重复了很多次，我终于不再忍了 (colobu.com)

这篇文章讨论了如何简化数据库查询的常见模式。作者介绍了一些助手函数，可以使用简单的Go代码进行数据库查询。这些函数通过使用反射和泛型，减少了手动编写SQL查询的重复性工作，并提高了代码的可读性和可维护性。此外，文章提供了示例代码，展示如何将数据库结果映射到Go结构体或map[string]any，并分享了与库的集成经验。

by @技术头条 2024-08-06 07:51 查看详情

重复视频检测的价值和常见方法 (ixyzero.com)

全网范围内的主要精品视频主要来自MCN机构，一些公司为了更快更好地去覆盖全网内容，会选择和内容代理合作，而代理手上会有很多重复版权的内容，导致重复内容出现。另外，搬运视频也会导致重复内容出现，这些重复内容会造成极差的用户体验。

再者，大量内容相似的视频对于短视频平台存储、网络带宽等资源也是一个极大的挑战，为了不必要的资源浪费，对视频内容进行去重是非常有必要的。

by @技术头条 2024-03-13 13:24 查看详情

防止数据泄露的高效策略-翻译整理 (ixyzero.com)

简单来说，就是数据安全左移，在每一个阶段都做卡点和检测，提高入侵/获取敏感数据的成本，减少后续阶段的日志告警量，提高告警检测准确率，利用自动化工具/平台提高响应的速度和效率。
未授权不可访问；有账号凭证要检测是否正常（常用设备、常用网络、常见时间、常见操作行为、……）；有账号也仅知其所需最小权限；梳理出的高权限账号的敏感操作进行重点关注。
数据尽量不落地，大部分操作在线即可完成，系统埋点要全面和准确；对于数据下载和外发格外关注，下载设备的DLP的健康状态和策略的有效性需要及时检查。

by @技术头条 2024-03-12 22:56 查看详情

基于接口数据变异的App健壮性测试实践 (tech.meituan.com)

本文主要介绍了对网络返回数据进行变异的客户端健壮性测试实践经验。文章第一部分介绍客户端健壮性测试的基本概念；第二部分分享了基于接口返回数据变异的App健壮性测试方案设计的思路；第三部分主要解读了变异数据的构造和异常检测方案设计；第四部分介绍了精简变异数据的探索方案。

by @技术头条 2024-03-12 22:45 查看详情

个人数据安全不完全指南 (thiscute.world)

这里介绍的并不是什么能一蹴而就获得超高安全性的傻瓜式方案，它需要你需要你有一定的技术背景跟时间投入，是一个长期的学习、实践与方案迭代的过程。另外如果你错误地使用了本文中介绍的工具或方案，可能反而会降低你的数据安全性，由此产生的任何损失与风险皆由你自己承担。

by @技术头条 2024-03-12 22:32 查看详情

简要说明 HTTPS 是如何保证数据安全 (www.addesp.com)

本文简要介绍HTTPS协议是如何保证数据在传输过程中的安全的。
由于是以介绍为主，所以不会涉及细节，而且肯定会有一些错误。如果想要详细了解可自行查阅资料。

by @技术头条 2023-11-06 23:31 查看详情

运维｜MySQL 数据库被黑，心力交瘁 (mazhuang.org)

前一阵有一个测试用的 MySQL 数据库被黑了，删库勒索的那种，这里记录一下事情经过，给自己也敲个警钟。

by @技术头条 2023-11-06 22:59 查看详情

数据安全是什么？ (ixyzero.com)

说来也怪，做了很久的安全/数据安全，有些时候当其他人问你数据安全是什么，以及你做的是哪一部分，涉及到什么具体工作/产品/项目，为什么要做这些，怎么做好这些的问题时，还是会一愣，然后大概率从自己正在干的事情说起，好一点的可能还要加上以后的规划——这些事情很重要，如果讲不清楚很可能是基础不行或是没做过（又或者是近期务虚的工作多了，以前干的工作又没有及时深入总结，导致一时想不起来）；但在准备晋升答辩时，（这种自下而上的介绍方式/顺序）对于高阶的评委或者管理者来说，又不重要，他们想看的是全局、整体的思考，需要的是自上而下的视角；不过平时大部分实际干活的人，习惯于用自下而上的视角去看待自己的日常工作，这么做久了之后，可能就会光顾埋头赶路，忘了抬头看天，对于有一些想法和追求的人，建议每隔一段时间给自己安排一个从具体事务中抽离出来的机会，用自上而下的视角来观察一下自己的工作甚至是岗位（对公司/团队的价值在哪？），看看能不能有一些不一样的发现。

by @技术头条 2023-10-24 23:44 查看详情