用pigz代替gzip
浏览:2891次 出处信息
pig是个啥东东?
一句话简介:
A parallel implementation of gzip for modernmulti-processor, multi-core machines。
简单的说,就是支持并行的gzip。废话不多说,开始测试。
pig默认用当前逻辑cpu个数来并发压缩,无法检测个数的话,则并发8个线程。
一、测试压缩包文件1 压缩前 -rw-r--r-- 1 root root 2474772480 Dec 3 19:54 dbs.tar 1、gzip测试 压缩耗时,CPU最高:101.6% real 2m18.042s user 2m10.204s sys 0m6.876s 解压缩耗时,CPU最高:101.6% real 0m26.756s user 0m20.175s sys 0m6.580s 压缩后 -rw-r--r-- 1 root root 2349563863 Dec 3 19:54 dbs.tar.gz 2、pigz测试 并发8线程(默认): 压缩耗时,CPU最高:832% real 0m21.710s user 2m31.229s sys 0m9.101s 解压缩耗时,CPU最高:199% real 0m13.239s user 0m11.791s sys 0m12.426s 并发4线程: 压缩耗时,CPU最高:427.6% real 0m38.299s user 2m30.701s sys 0m8.369s 解压缩耗时,CPU最高:202% real 0m13.294s user 0m12.154s sys 0m11.862s 压缩后 -rw-r--r-- 1 root root 2350161547 Dec 3 19:54 dbs.tar.gz 二、测试压缩包文件2 压缩前 -rw-r--r-- 1 root root 5248890880 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar 1、gzip测试 压缩耗时,CPU最高:101% real 6m20.524s user 6m2.466s sys 0m7.410s 解压缩耗时,CPU最高: 101% real 0m58.893s user 0m46.258s sys 0m11.944s 压缩后 -rw-r--r-- 1 root root 1410045513 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz 2、pigz测试 并发8线程(默认): 压缩耗时,CPU最高: 799% real 1m11.908s user 6m36.717s sys 0m9.860s 解压缩耗时,CPU最高:179% real 0m33.188s user 0m38.069s sys 0m16.728s 并发4线程: 压缩耗时,CPU最高: 418% real 1m41.547s user 6m36.782s sys 0m9.806s 解压缩耗时,CPU最高: 179% real 0m33.120s user 0m37.500s sys 0m16.956s 压缩后 -rw-r--r-- 1 root root 1406061442 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz
结论:
1、pigz默认用法(默认并发线程是逻辑cpu个数)可比gzip快5.3倍,CPU消耗则是gzip的8倍,压缩比则相当; 2、并发8线程对比4线程提升:41.2%,16线程对比8线程提升:27.9%,32线程对比16线程提升:3%; 3、在对压缩效率要求较高、但对短时间内CPU消耗较高不受影响的场景,使用pigz非常合适。
建议继续学习:
- 使用.htaccess 开启gzip 缓存文件 网页 提高速度 (阅读:6394)
- 使用Gzip压缩网页 (阅读:3104)
- apache,php的gzip压缩功能 (阅读:3038)
- 如何让squid 2.6.STABLE21输出Content-Encoding: gzip (阅读:2819)
- 关于一个gzip压缩问题的定位解决 (阅读:2130)
- 使用tar+lz4/pigz+ssh更快的数据传输 (阅读:2196)
- IE6中javascript文件开启Gzip出现代码不执行情况 (阅读:1911)
- Nginx与Gzip请求 (阅读:1985)
QQ技术交流群:445447336,欢迎加入!
扫一扫订阅我的微信号:IT技术博客大学习
扫一扫订阅我的微信号:IT技术博客大学习
<< 前一篇:用Bloom Filter的方式统计网络流量
后一篇:玩转CPU Topology >>
文章信息
- 作者:yejr 来源: MySQL 中文网
- 标签: gzip pigz
- 发布时间:2012-12-05 13:02:05
建议继续学习
近3天十大热文
- [69] Twitter/微博客的学习摘要
- [64] find命令的一点注意事项
- [64] 如何拿下简短的域名
- [64] IOS安全–浅谈关于IOS加固的几种方法
- [63] android 开发入门
- [62] Go Reflect 性能
- [61] 流程管理与用户研究
- [59] Oracle MTS模式下 进程地址与会话信
- [58] 读书笔记-壹百度:百度十年千倍的29条法则
- [58] 图书馆的世界纪录