IT技术博客大学习 共学习 共进步
全部 移动开发 后端 数据库 AI 算法 安全 DevOps 前端 设计 开发者

标签:Redis

共 84 篇相关文章

IT 累计浏览 2,477

PHPTS:一键免费搭建 Nginx + PHP + MySQL + Redis + Memcached 网站、APP、小程序服务器端运行环境

这篇讲的是如何在 Windows 上快速搭建网站服务器环境。传统方式需要手动安装和配置 Nginx、PHP、MySQL 等一堆组件,过程繁琐且容易出错,尤其是官方 Nginx for Windows 版本在连接数和性能模型上限制明显,往往只能用于测试。 文章介绍的 PHPTS 软件给出了一个“一键搞定”的方案。它将上述组件集成为一个安装包,并对关键的 Nginx 进行了深度优化——采用了 Windows IOCP 模型并支持多进程,将连接数上限从官方版本的 1024 大幅提升至 32768,使其在 Windows 上也能胜任生产环境。这解决了长期困扰 Windows 开发者的性能痛点。 除了作为本地开发环境,软件还定位为边缘计算平台。它可以运行在各类本地设备上,利用本地算力完成 AI、音视频处理等任务,减少对公有云的依赖,并支持与云服务组建混合云。对于需要在 Windows 下快速启动 Web 服务或探索本地化部署的开发者来说,这提供了一个免费且开箱即用的选择。

IT 累计浏览 1,833

通过Twemproxy提升PHP/Redis的性能

这篇文章讲的是如何用 Twemproxy 这个看似“古老”的 Redis 代理,来解决 PHP 应用中难以实现真正连接池的性能痛点。作者没有从复杂的理论入手,而是直接从一个已知的“曲线救国”方案(借助 Nginx Stream 模块)出发,转而尝试用现成的 Twemproxy 来达到相同目的。 核心方案是让 Twemproxy 与 PHP 部署在同一台服务器上,并通过本地 Unix Domain Socket 进行连接。经过初步压测,作者发现默认的单进程 Twemproxy 并没有带来性能提升,问题根源在于其单线程架构无法利用多核 CPU。因此,他调整策略,按照 CPU 核心数启动了多个 Twemproxy 进程,并让 PHP 请求随机分配到这些进程对应的 Socket 上。 最终的测试结果非常直观:性能提升了整整 100%。作者在文中指出了性能跃升的关键因素:Twemproxy 的 Pipelining 功能将多个请求打包发送,减少了网络 RTT,同时还优化了连接建立过程。文章不仅给出了具体的配置文件示例和压测命令,还提到了如 mbuf-size 设置和绑定 CPU 等实战细节,为读者提供了可直接参考的落地步骤。

IT 累计浏览 2,992

分布式系统中唯一ID的生成

这篇讲的是分布式系统中一个看似简单却至关重要的问题:如何生成全局唯一的ID。作者从实际大型系统的共同需求出发,对比了几种主流方案,分析了它们各自的适用场景与取舍。 文章首先剖析了“独立生成服务”这类集中式方案。最典型的是利用数据库的自增序列,它保证了递增性,但存在单点瓶颈。对此,一个变通思路是通过划分序列范围或设置不同步长,用多个节点分摊生成任务,但这又牺牲了全局的递增性。作者重点介绍了开源方案Twitter Snowflake,它通过组合时间戳、节点编号和自增序列,在保证高性能与有序性的同时,减少了中心化依赖(尽管节点ID仍需从Zookeeper获取)。 另一大类是“本地生成器”。这类方案在节点本地生成ID,通常要求不同节点间无状态依赖。例如用主机号加时间戳,简单但受限于单毫秒只能生成一个ID;而UUID(通用唯一识别码)则提供了更灵活的128位随机标识,不过理论上仍存在极低概率的冲突。 整体来看,作者并未简单评判优劣,而是引导读者思考:在递增性、全局有序、高可用、高性能与实现复杂度这些不同维度间,应如何根据具体业务场景做出合适的选择。

IT 累计浏览 2,453

mysql,redis数据备份方案

这篇讲的是,一家公司在阿里云上自建MySQL和Redis存储时,如何从一套简陋的备份方案,逐步迭代出相对可靠的数据保障策略的实践。 起初,团队的备份方案是每天一次冷备加Redis的RDB自动保存,简单但隐患重重:MySQL的dump操作会引发游戏卡顿,冷备间隔过长导致恢复数据太旧,Redis缺乏热备风险大。 针对这些痛点,他们首先优化了MySQL方案:搭建主从同步实现热备,并将冷备任务转移到从机上每十分钟执行一次,再同步至OSS,避免了主机性能受损。接着处理Redis备份,最初考虑效仿MySQL做主从热备,但评估后发现,如果主机宕机重启,其RDB可能会覆盖从机数据;而从机重建同步又会触发主机大规模bgsave,可能导致内存飙升。最终,他们选择了一个务实的方案:将RDB文件通过SSH传输到另一台独立机器上进行冷备,从而规避了本地磁盘IO竞争导致MySQL变慢的核心问题。 整个过程印证了作者开头的观点:很多事的推进,取决于“时”与“势”。而备份方案的完善,正是在服务器故障的“势”到来之前,团队早已开始思考和储备的结果。

IT 累计浏览 1,892

关于共享经济的杂谈

这篇探讨共享经济本质的文章,从一系列生动案例切入,厘清了真正的共享经济与打着“共享”旗号的传统租赁或资源再分配模式之间的区别。作者指出,核心在于是否**高效利用了个体的闲置资源**——无论是闲置的房子、空载的车辆,还是空闲的课时与厨房时间。 文章没有止步于概念辨析。作者从产品市场的分析框架出发,从社会趋势(追求个性)、经济动力(个体崛起)和技术基础(移动互联网成熟)三个维度,论证了共享经济并非伪命题,而是有坚实土壤的未来趋势。其中关于“效率与个性”的辩证讨论尤为精彩:作者认为,效率会随平台网络效应的增强而自然提升,而**服务的非标准化与个性化**,才是共享经济区别于传统商业模式、决胜未来的关键。 最后,文章以易到用车为例,探讨了平台运营的“道”:通过营造平等、尊重、宽容的社区氛围,建立一种全新的、有温度的商业文明。这为我们理解共享经济提供了一个超越单纯效率讨论的、更富人文关怀的视角。

IT 累计浏览 2,187

浅谈Web缓存

作者从Web性能优化的实践角度出发,深入探讨了缓存机制在提升网页加载速度中的关键作用。文章首先区分了数据库缓存、代理服务器缓存、CDN缓存和浏览器缓存等类型,并聚焦于浏览器缓存如何通过将资源保存在客户端来减少服务器请求、降低网络负荷。 核心内容详细解析了浏览器缓存的控制原理,重点对比了Cache-Control头部的多个指令:max-age(例如设置30天有效期)直接控制缓存时长,s-maxage则专用于CDN等共享缓存;public和private指令分别决定资源是否在多用户间共享或仅限私有使用;no-cache和no-store则涉及缓存验证和禁止策略。此外,文章对比了Expires、Last-modified和ETag的差异:Expires指定服务器端的具体过期时间点,但优先级低于Cache-Control;Last-modified基于文件最后修改时间进行验证,而ETag通过内容生成哈希字符串,更精确地检测资源变化,解决了Last-mod

IT 累计浏览 2,249

跳跃表

这篇讲的是从Redis底层实现引出的跳跃表数据结构。作者从结构图入手,说明它本质是多层链表的组合,底层S0存储有序数据,上层作为索引加速查找。查找时从顶层向下逐层扫描,插入时则通过随机概率P决定新节点能“跳”到多高,从而在期望O(logn)时间内完成操作。 文章展示了一组实验数据,对比了不同P值(如1/2、1/e)对平均操作时间、列高和跳跃次数的影响,直观体现了参数选择的权衡。最后,作者引用了Redis作者antirez的观点,点出跳跃表相比平衡树的核心优势:内存占用可控、对范围查询(ZRANGE)友好、实现与调试更简单。文末也补充说明,这种简单高效的特性使其同样适合算法竞赛场景。

IT 累计浏览 4,313

RabbitMQ与Redis队列对比

这篇技术文章聚焦于RabbitMQ与Redis作为消息队列时的核心差异。作者从可靠消费、发布确认、高可用性、持久化、负载均衡等关键维度展开对比,指出Redis在消息可靠性和系统监控方面需要较多自行实现,而RabbitMQ内置了完整的确认、持久化和监控机制。 具体来看,两者在可靠消费上差异明显:Redis消费失败可能导致消息丢失,而RabbitMQ能自动将失败消息重归队列。性能测试数据显示,在处理128Bytes到10K的不同数据体量时,两者出入队性能各有特点。文章最终提炼出适用场景:Redis更适合轻量级、高并发的即时计算或缓存场景,例如秒杀计数器;RabbitMQ则更适用于需要保证消息可靠传递的批量异步处理或任务负载均衡。 文章并未给出绝对结论,而是强调最终选择需结合系统对可靠性、监控能力和实际负载的具体要求来综合权衡。

IT 累计浏览 1,567

缓存系列文章–无底洞问题

这篇讲的是分布式缓存系统中一个经典陷阱——“无底洞”问题。作者从Facebook大规模Memcached集群的实践切入,指出盲目增加节点不仅无法提升性能,反而会导致批量操作(如mget)因网络次数暴增而变慢。 问题的根源在于哈希分布下,大量key被打散到不同节点。一次批量获取需要跨多次网络IO,机器越多,耗时越长。文章对比了哈希分布与顺序分布的特点,并给出了四种应对方案:最简单的串行mget(O(n)网络时间),优化后的按节点分组串行IO(O(节点数)网络时间),以及多线程并行IO和利用Redis的hash-tag强制key到同一节点。 通过对比可以看出,从“串行mget”到“hash-tag”,核心思路都是尽可能减少网络往返次数。文章最后用清晰的表格总结了各方案的优劣与适用场景,为开发者在数据分散与访问效率之间做出权衡提供了明确参考。

IT 累计浏览 3,215

Redis未授权配合SSH免密码登录漏洞及修复

这篇讲的是Redis未授权访问漏洞如何被利用来配合SSH免密码登录,以及相应的修复方法。作者从Redis的基本概念出发,介绍了redis-cli客户端、Redis Desktop Manager图形界面工具,以及常用的Key操作(如set、get、del)和服务器命令(如info、config get/set)。文章重点讲解了当Redis配置不当、默认无需密码认证时,攻击者如何通过Redis写入SSH公钥,从而实现免密码登录主机。具体步骤包括在Kali主机上使用redis-cli连接目标Redis,利用config set dir和config set dbfilename命令将SSH公钥写入/root/.ssh/authorized_keys文件。同时,文章还讨论了写入公钥后依然无法登录的常见情况,例如目录权限问题或SELinux设置,并给出了解决方法。 针对修复方案,文章强调了设置Redis密码认证的重要性,建议修改redis.conf文件中的requirepass参数。此外,还提到了修改绑定地址(bind参数)以限制访问,配置防火墙规则(如iptables)只允许特定IP连接,以及定期备份数据等措施。这些方案有助于系统管理员加固Redis服务,防止未授权访问和潜在的安全风险。通过实例演示漏洞利用过程,文章提供了可操作的修复建议,帮助读者在实际环境中实施安全防护。

IT 累计浏览 2,691

教你如何查询当前主流数据库及其排名?

查询数据库流行度排名有捷径吗?作者直接指向了db-engines.com这个权威榜单。这篇文章带我们快速浏览了2015年6月的数据库流行度前十名,像Oracle、MySQL、SQL Server这些巨头稳居前列,但有意思的是,微软的Access依然高居第七,让不少开发者感到意外。同时,Redis作为新贵闯入了前十,而国产的巨杉数据库排名则从186位滑落至235位,引发了讨论。 榜单的排名并非凭空而来,它综合了277个数据库在资讯网站、谷歌搜索、技术讨论、招聘市场以及社交网络上的热度数据。通过这些多维度的积分统计,这个榜单真实反映了当时各类数据库在开发者社区和行业中的实际关注度与应用情况。对于需要了解数据库技术趋势或进行技术选型的人来说,这提供了一个非常直观的参考视角。

IT 累计浏览 1,625

linux下redis执行bgsave时,报overcommit_memory错误问题

这篇讲的是 Redis 在内存紧张时执行 bgsave 可能遭遇的 overcommit_memory 报错问题。作者从实际故障现象切入,详细说明了错误提示的含义:当系统内存耗尽,fork 子进程进行后台保存时,若恰有数据变更需要申请内存,就可能因分配失败而终止保存。根本原因在于 Linux 内核的内存分配策略参数 `vm.overcommit_memory` 默认为 0,较为保守。 文章进一步剖析了这个内核参数的三个取值含义,并明确给出解决方案:将该参数设置为 1,允许内存适度超量分配。具体操作提供了三种方法:修改 sysctl.conf 文件、直接运行 sysctl 命令或写入 proc 文件系统,并附上了验证命令。 此外,文章还延伸讨论了与内存管理密切相关的 OOM Killer 机制,解释了 Linux 如何选择进程终止来释放内存,并介绍了如何通过 /proc/meminfo 查看 CommitLimit 和 Committed_As 等关键内存指标。整篇文章逻辑清晰,从问题到原理再到解决和扩展,为处理此类内存配置问题提供了完整思路。

IT 累计浏览 2,746

如何统计Redis中各种数据的大小

这篇讲的是 Redis 内存占用分析的一个轻量级自定义方案。作者从一个常见的痛点出发:Redis 内存变大后,不像 MySQL 能轻易定位到具体是哪些“大表”,很难快速找出到底是哪些键占用了主要空间。 现有的分析工具如 redis-rdb-tools 可能无法满足所有定制化需求。为此,作者展示了如何仅用 SCAN 和 DEBUG 这类 Redis 原生命令,编写一个简短的脚本,就能实现按自定义模式统计键大小的功能。其核心思路是通过 SCAN 遍历所有键,利用 DEBUG OBJECT 获取每个键的序列化长度,再按照预定义的正则表达式模式进行分类和累加。这种方法非常灵活,你可以轻松定义比如“用户Session”、“缓存数据”等业务维度来查看各类数据的内存占比。 文章也补充了两个实用要点:一是可以通过 MONITOR 命令配合分析,来初步总结出可能的键命名模式;二是需要明白 DEBUG 返回的序列化长度(serializedlength)会比实际内存占用小,但作为相对大小的参考指标依然有效。

IT 累计浏览 1,528

kvproxy的数据主从复制简介

这篇讲的是如何为Memcached缺少的数据主从同步能力打上补丁。 作者从Memcached用户在多集群部署时面临的数据一致性痛点出发,介绍了kvproxy提供的一个核心功能:通过主从复制实现集群间的数据同步。文章没有停留在概念层面,而是直接拆解了典型场景,比如应对单点故障做热备份,以及跨机房部署时减少网络延迟。 核心方案是让kvproxy代理层支持同步与异步两种复制策略。同步复制保证强一致但增加延迟,异步复制响应快但数据有滞后。文章很细致地指出了如何通过配置文件设置主从集群、指定复制策略前缀,比如让以“+”开头的Key强制走同步通道。 这相当于在缓存层引入了一个可控的数据同步管道,对于既想用Memcached高性能、又需要一定可靠性的团队,提供了一个具体的参考实现路径。

IT 累计浏览 3,766

Redis编程小技巧拾遗

这篇讲的是作者在阅读Redis源码时,特意“拾遗”的几个精妙的C语言编程技巧。作者从Redis简洁的1.0版本入手,并未重复大众熟知的源码剖析,而是聚焦于那些能让代码更健壮、更高效的小细节。 最典型的是“空数组”技巧:在`sdshdr`和`zskiplistNode`结构体的末尾定义一个空数组成员(如`char buf[]`和`level[]`)。这允许在动态内存分配时,根据实际需要的数据长度(如字符串长度、跳表层数)一次性申请合适大小的内存,实现了结构体内可变长数据的紧凑存储。 另一个常见但重要的技巧是使用 `do { } while(0)` 来包裹宏定义中的多条语句。这不仅能确保宏在if等控制流中像单条语句一样安全执行,文章还展示了将其用于简化流程控制的用法,使代码逻辑更清晰。 此外,文章还介绍了Redis中定制化的断言宏`redisAssert`和分级日志系统`redisLog`,前者在条件失败时能输出详尽的上下文信息,后者则允许根据日志级别进行过滤。这些实现虽小,却体现了生产级项目对可调试性和可观测性的重视。 这些从顶级项目中提炼出的技巧,对任何C/C++开发者都有直接的借鉴意义。

IT 累计浏览 9,094

【2014年版】异地购房提取北京公积金

这篇讲的是作者离职后异地购房,如何提取北京公积金的完整实操经历。文章从个人“踩坑”出发,梳理了从账户状态确认、材料准备到现场办理的全流程。 作者首先发现自己的公积金账户已被原单位挂靠的中智公司“集中封存”,导致无法线上处理。朝阳管理部电话长期打不通,最终通过拨打北京公积金中心客服热线010-96155,获取了清晰的材料清单,包括购房合同、发票、身份证、结婚证,以及针对已离职人员的关键文件——异地购房证明和社保缴纳明细。 文章详细记录了如何与购房地居委会沟通开具证明,并分享了自己拟定的证明模板。现场办理时发现,正是因为账户处于“封存”状态,才得以以个人名义直接前往公积金中心办理,避免了通过单位的繁琐流程。作者在文中对比了南北方办事效率的差异,并总结了多条实用提示:优先查询官方网站、耐心拨打官方客服电话、利用在线问答渠道获取准确信息。整体是一份信息扎实、充满细节的“办事指南”式经验复盘。

IT 累计浏览 8,013

Redis和Memcached的区别

这篇讲的是Redis和Memcached这两种内存数据库的核心区别。文章从Redis作者的一个经典比较出发,清晰梳理了三者关键差异:首先,Redis支持String、Hash、List等更丰富的数据结构,可以在服务器端直接进行复杂操作,避免了Memcached需要将数据取回客户端修改的额外开销。其次,在内存效率上,若采用hash结构存储,Redis的组合压缩机制可能比Memcached更具优势。最后,性能表现各有特点:处理小数据时Redis的单核性能更优,而在100k以上的大数据场景中,Memcached的多核处理能力则略占上风。 文章随后深入剖析了Redis五种数据类型的实现原理,例如Hash内部如何根据成员数量自动转换存储结构,以及Set如何通过HashMap实现快速去重。这些细节不仅解释了差异背后的技术原因,也揭示了各自的设计考量。 总的来说,如果你的应用需要丰富的数据结构和复杂操作,Redis是更强大的选择;而如果是纯粹的、简单的大规模键值缓存,Memcached在内存利用和特定数据量级下的性能或许更合适。文章为技术选型提供了扎实的对比依据。

IT 累计浏览 2,765

redis超时问题分析

这篇讲的是Redis在实际运维中遇到超时问题的深度排查。作者从dump中心cm8集群的真实故障出发,发现内存充足的情况下依然出现超时,进而深入Redis源码寻找根因。 问题最终定位在三个方面:一是网络闪断,可通过监控带宽排查;二是内存使用,尤其是RDB持久化时fork子进程会触发Linux的写时复制机制,可能导致物理内存不足而发生swap,引发超时。解决方案包括调低swappiness参数、谨慎使用RDB持久化,或改用AOF及读写分离架构。 第三个原因在于Redis单进程串行处理命令的架构。基于epoll的事件驱动模型意味着任何慢命令(如sort、hgetall)都会阻塞后续请求,导致超时。因此,从应用层避免使用慢命令、增加实例分流是关键优化方向。文章结合源码片段,清晰剖析了从网络、内存到内部执行模型的完整故障链路。

IT 累计浏览 2,064

深入剖析 redis 数据结构 redisObject

这篇讲的是Redis核心数据结构redisObject的设计。它只有32位,却极其高效地管理了所有类型的数据对象。 作者从结构体定义出发,揭示了它的精巧布局:type字段明确是字符串、列表还是哈希等类型;encoding字段则决定了底层是用普通字符串、压缩列表还是跳表来存储——同一个类型的数据可以有多种编码,Redis会根据数据规模自动选择最省内存的方案。比如一个小的集合可能用整数集合,变大了就切换为哈希表。 文章还详解了lru字段如何用于内存淘汰,以及refcount引用计数如何管理对象生命周期。最后那个void *ptr指针,才是真正指向数据的地方。 作者特别指出,得益于Redis单线程模型,引用计数的操作无需考虑线程安全,这是与Memcached等多线程系统的重要区别。整个设计将数据与元数据分离,各个字段职责清晰,正是Redis高效与灵活的重要基石。

IT 累计浏览 4,286

深入剖析 redis replication 主从连接

这篇讲的是Redis主从复制机制的底层实现,特别是积压空间(repl_backlog)的设计与作用。 文章从主从架构的概述切入,指出其支持灵活的DAG拓扑以实现数据弱一致性。核心剖析聚焦于“积压空间”这一关键数据结构:它本质上是一个环形缓冲区,用于暂存数据变更记录。作者通过源码追踪,清晰展示了变更记录的写入路径:当命令执行修改了数据后,会经由 `call() -> propagate() -> replicationFeedSlaves()` 链路,最终被同时写入积压空间并分发给所有在线从机。 文章巧妙地解释了这种“双重写入”的设计意图:积压空间是为那些因故障断开连接的从机准备的。这些从机重连后,可以优先从这个环形缓冲区中获取断开期间错过的数据变更,进行高效的增量同步(部分同步),而非每次都进行全量同步。只有当断开时间过长,缓冲区无法覆盖时,才会退化为全同步。 通过对核心数据结构(如 `repl_backlog_size`, `repl_backlog_idx` 等)和关键函数的源码解读,文章深入浅出地揭示了Redis如何在保证实时同步的同时,优雅地处理节点故障恢复的场景,展现了其在工程实现上的细腻考量。