数据离奇丢失案件的侦破与思考--技术头条 -- 微博大V帮你宣传技术博文开发者头条码农头条

数据离奇丢失案件的侦破与思考 (insights.thoughtworks.cn)

【简介】

数据出现问题相对比较严重，团队都会着急去排查原因，不过，在开始排查之前，有更重要的事情要做。我认为问题排查也分两个步骤：清晰识别问题、定位问题。

由 @Thoughtworks 2023-04-21 09:18 / 0个评论

本文介绍了在 Hive SQL 中如何识别连续日期数据的显著波动，适用于异常检测。使用窗口函数 `LAG` 和 `LEAD` 提取前后日期数据，通过对比当天与昨日、近几日的均值或分位数来判定异常。文中提供了查询示例，通过阈值设定（如倍数增加或p90分位数）识别异常值，帮助分析用户行为或数据波动，为风控和数据监控提供技术支持。

by @技术头条 2024-11-02 16:52 查看详情

容器技术驱动下的代码沙箱实践与思考 (blog.yuanpei.me)

本文探讨了基于容器技术的代码沙箱应用，旨在隔离代码执行环境，提升安全性和稳定性。通过 Docker 容器创建语言镜像，支持多语言代码执行。文章介绍了使用 Jupyter 实现代码可视化，并借助 nbformat 和 nbconvert 管理和执行 Jupyter 笔记本，增强代码展示效果。此方案不仅提高了开发灵活性，还便于在 AI 编程中实时展示和分析结果。

by @技术头条 2024-11-02 16:40 查看详情

温故而知新：后端通用查询方案的再思考 (blog.yuanpei.me)

本文探讨了后端通用查询方案的设计，通过 `Gridify` 库启发，提出基于泛型和接口的查询模型，优化分页和过滤功能。实现细节包括 `QueryParameter` 类和 `IQueryableFilter` 接口的使用，自定义模型绑定方式，使查询参数更灵活，支持多种前后端兼容格式。文章强调开发中平衡灵活性与规范性，并认为在 AI 辅助编程背景下，程序员应专注于复杂问题解决和生产关系的改善。

by @技术头条 2024-11-02 16:39 查看详情

第一性原理思考：解决问题的通用框架(续) (blog.devtang.com)

本文深入探讨了几种思维框架，包括28原理、谬误推导和终局思维等，帮助在决策中聚焦关键因素，判断信息真伪。文章还列举了常见误区，如误把相关性当因果、从众心理和情绪化决策等，提醒在信息泛滥中保持清晰的逻辑思维。通过案例分析，这些思维模式能有效提升问题解决和决策的效率。

by @技术头条 2024-11-02 16:25 查看详情

第一性原理思考：解决问题的通用框架 (blog.devtang.com)

本文介绍了解决问题的通用框架，基于“第一性原理”思考，分为信息收集、建模、判断和策略迭代四步。通过广泛收集经验与原始数据，建立问题模型，量化核心指标并不断优化策略，可以逐步解决复杂问题。框架虽无法保证执行到位，但帮助接近真实问题，为复杂决策提供可靠支持。

by @技术头条 2024-11-02 16:20 查看详情

新一代实验分析引擎：驱动履约平台的数据决策 (tech.meituan.com)

本文介绍了美团履约技术平台的新一代实验分析引擎，该引擎对核心实验框架进行了标准化，并融合了众多先进解决方案，有效解决小样本挑战。同时，提供了多样化的溢出效应应对策略，并针对不同业务场景提供了精准的方差和P值计算方法，以规避统计误差。希望对大家有所帮助或启发。

by @技术头条 2024-11-02 16:18 查看详情

Semantic Kernel 视角下的 Text2SQL 实践与思考 (blog.yuanpei.me)

本文深入探讨了人工智能领域的最新进展，特别是大型语言模型（LLMs）的应用及其与检索增强生成（RAG）技术的结合。文章首先引用《诗经》中的名句，比喻技术的快速发展，随后讨论了 Agent 的概念，强调了其规划、记忆和工具使用的能力。作者分享了对市场上主流 Agent 产品的体验，并提出了对大模型动态规划任务的信念。文中还介绍了 Text2SQL 技术，展示了如何将自然语言转化为 SQL 语句，以及这一技术如何帮助大模型与关系型数据库连接。最后，作者反思了技术进步对人类社会的影响，特别是在效率提升与人类幸福感之间的关系。|

by @技术头条 2024-08-06 07:35 查看详情

网状的思考，线性的写作 (www.codedump.info)

除去“正襟危坐”正儿八经的写一篇“文章”整理观点和思考之外，更多的时候想法是发散的，并不局限在特定、单一的时空中。写作是线性的，而思考常常是发散的，如果思考之间不发生联系，把它们变成一张网，失去关联则很难起作用了。

“卡片式笔记法”就适用于记录这些发散的想法，每个想法单篇笔记，赋予每篇笔记唯一的逻辑地址，笔记与笔记之间，通过逻辑地址和tag发生关联。

by @技术头条 2024-03-21 23:24 查看详情

防止数据泄露的高效策略-翻译整理 (ixyzero.com)

简单来说，就是数据安全左移，在每一个阶段都做卡点和检测，提高入侵/获取敏感数据的成本，减少后续阶段的日志告警量，提高告警检测准确率，利用自动化工具/平台提高响应的速度和效率。
未授权不可访问；有账号凭证要检测是否正常（常用设备、常用网络、常见时间、常见操作行为、……）；有账号也仅知其所需最小权限；梳理出的高权限账号的敏感操作进行重点关注。
数据尽量不落地，大部分操作在线即可完成，系统埋点要全面和准确；对于数据下载和外发格外关注，下载设备的DLP的健康状态和策略的有效性需要及时检查。

by @技术头条 2024-03-12 22:56 查看详情

基于接口数据变异的App健壮性测试实践 (tech.meituan.com)

本文主要介绍了对网络返回数据进行变异的客户端健壮性测试实践经验。文章第一部分介绍客户端健壮性测试的基本概念；第二部分分享了基于接口返回数据变异的App健壮性测试方案设计的思路；第三部分主要解读了变异数据的构造和异常检测方案设计；第四部分介绍了精简变异数据的探索方案。

by @技术头条 2024-03-12 22:45 查看详情