1 概述

    　　在某产品线的图片服务器，存放了亿级别的图片文件，每个文件的大小在0.5k-100k之间，其中1K以下的文件数量在50%左右，1-4K文件数量在40%左右，4K以上10%，大量的文件存储对文件系统的性能要求非常高，特对目前业界常用系统性能在图片服务的表现进行调研。

    　　因线上flash卡故障率非常高，所以在寻找替代方案，磁盘是否可以满足线上系统需求？是否满足今后可扩展性(容量、文件数量)？是否可以更好的处理数据同步使用时间？

2 预期解决问题

    　　1、磁盘是否可以替换flash卡？

     　　目前发现1Tflash卡故障率极高，严重时每周多次损坏，修复数据的时间很长，最少需要6个小时。

     　　2、测试jfs reiserfs xfs ext2文件系统在图片业务上的性能表现(读写)。

3 测试方法及结果

3.1 测试方法

    　　1、模拟线上环境，进行压力测试

    　　搭建一套跟目前线上一样的系统环境，提取线上7天全部日志，采用压力工具(可以模拟数据全部返回)进行模拟线上环境进行压力测试(连续压力2小时以上)。

    　　2、利用磁盘测试工具，进行设备性能测试

    　　3、通过磁盘占用空间、inode节点数量进行对比

    　　4、通过线上数据同步，测试同步所需时间

3.2 结果分析

    　　1、使用磁盘完全可以替代flash

    　　从模拟线上产品的压力得出结论使用HP机器采用jfs和ext2文件系统完全可以满足目前线上系统及未来一段时间内需求，如下表：

    　　注：使用磁盘需要20分钟充cache，充cache期间的lighttpd的最大压力值2000.

    　　2、图片服务目前的瓶颈在网卡

    　　在进行模拟线上压力测试时，所有文件文件系统除dell-reiserfs外全部可以达到网卡流量峰值1G，随着时间推迟，平均值会下降，但是cpu也会逐渐空闲，

    　　3、在各种文件系统性能在图片服务的业务测试中，得出如下结果

    　　1)Flash卡上的ext2性能比较突出

    　　2)磁盘上jfs的表现更适合目前线上业务

    　　3)reiserfs的空间占用最小，比其他文件系统节约空间60%-65%

    　　如下表：

    　　4、修改线上图片更新脚本可以减少10%的时间，

    　　5、各文件系统下数据同步时间耗用完全不同，ext2在flash卡上，jfs在磁盘的表现非常好。

    　　如下表：

    　　6、在磁盘上，HP机器的小文件处理能力比dell更适合图片服务。

By huanghaibin

建议继续学习：

1. GFS, HDFS, Blob File System架构对比    (阅读：9386)
2. MooseFS知多少    (阅读：5035)
3. MogileFS 的介绍(MogileFS 系列1)    (阅读：4128)
4. 一线DBA总结：MySQL搭配XFS文件系统优势最大    (阅读：4095)
5. 文件系统的树形结构改善构思    (阅读：3061)
6. linux环境下使用GFS文件系统    (阅读：2794)
7. MogileFS 的客户端和API(MogileFS 系列4)    (阅读：2504)
8. MogileFS 的安装(MogileFS 系列2)    (阅读：2480)
9. Linux下如何迁移VG及文件系统    (阅读：2460)
10. MogileFS 的设置和管理(MogileFS 系列3)    (阅读：2059)