技术头条 - 一个快速在微博传播文章的方式     搜索本站
您现在的位置首页 --> 查看专题: MogileFS
    近来大家在安装最新的 MogileFS 时,会发现测试的时候,怎么样复制文件的过程都不正常.使用 telnet 到 7001 中使用 !watch 来查看时会不断的报下面的错。
    我一直使用 MogileFS 存视频这样的大文件来做源站.也用来存海量的小文件. MogileFS 本身对大文件支持也是相当不错的,另外要知道大文件它查询数据库的次数就更加少. 在这需要提醒一下大家.需要注意在大文件上传的时候(平时我多大的都有大点的 4G 以上), 需要 MogileFS::Client 加上特别的参数,来分片上传,这样存放速度在 MogileFS 中就会快多了. 我们在使用 new_file 的方法来上传的时候,只需要加入可选参数中的 largefile => 1 .这个时候内部的 MogileFS::Client 中就会使用另一个上传的模块,不在使用默认的 MogileFS::NewHTTPFile.但功能基本一样,只是支持  chunked 和 partial (Content-Range) HTTP/1.1 PUT .
    发现在 MogileFS 的集群中有机器死掉了,然后使用另一台替换了他的位置,使用的是相同的 IP .所以我们常常会有这种需求,就是怎么删除 MogileFS 中的机器.默认的时候你删除,会提示你设备不为空,所以不能删除.如下 # mogadm host delete MogileFS_Srv100 Failure deleting host: host_not_empty Unable to delete host; it contains devices still 所以这时我们会检查所有的硬盘: # mogadm device list -all 我们在机器坏了的时候,就会给这些标坏掉了,但还是不能删除.下面是我建议的方式. 当你给所有的硬盘设备标成不可用后,你然后在 fsck ,这样会同步文件到其它的机器同样的份数.
    MogileFS 是一个大型的分布式支持 HTTP 的数据存储的系统,当然不会有一个传统的 "fsck" 组件. 他设计了一种机制来并行的,在线的,异步的检查整个文件系统. The MogileFS fsck 默认,会检查和核对...
    Rebalance 这个功能并不是 MogileFS 中所必需的操作.但有时,它对于你要改变存储设备容量到不同的设备和机器上来讲是一个很好的东西,可以确保文件应该怎么样平均分布在所有...
    大多的 MogileFS 实例都使用的 MySQL 作为元数据存储(当然你也可以选择其它的如: SQLite ).通常的应用来讲,使用 MySQL 是个很好的主意.基本优化和应用和大型网站是一样的.所以不用担心它的性能.因...
    目前 Nginx 实在太火了, Nginx 对 MogileFS 的功能支持的非常好,测试也非常的稳定.所以推荐使用,目前在 MogileFS 中可以使用 Nginx 的地方有二个,一个是做为前端查询和代理请求的客户端.另一个是替换...
    在 MogileFS 中是不是要使用 memcached 一直有不同的看法.在 MogileFS 中其实是实现在了对 memcached 的操作,当有被经常请求的路径时,在 tracker 中支持 memcached 来加速 get_paths 的请求,并减少读取数据...
    

MogileFS 目前没有任何原生的功能来支持它运行在多个地的数据中心和使用多个 tracker. Tracker 可能运行在不同的网络,通过 ZoneLocal 插件,可以让你使用本地副本来服务的客户.并使用本地副本来复制。 当然,全部的 tracker 必须从同一个数据库来取数据。

        在 MogileFS 最重要的一个部分是客户端的应用,如下,可以支持的语言非常多,也支持 FUSE 所以下面,我来以 MogileFS 的 Perl 客户端和 MogileFS 的 FUSE 的 API 连接来讲讲. 
    接下来,我们在这次,要讲基本的怎么管理这个分布存储系统,比如第一次使用,要做些什么,有新的设备来了,要怎么做。要扩容要怎么样操作。在我们管理 MogileFS 前,我们看看管理的存储节点的关系,什么是存储主机,什么是设备。下面讲的内容,基本就是前面提到的二个工具的使用。
    我们在安装前,需要安装 cpanm 来安装模块,这是我现在最推荐使用的,用来安装 CPAN 上模块的方法。超级容易。当然,系统上最少开发环境还是有必要的,比如 Gcc 最少要有吧。这些都准备好...
    MogileFS 是一个开源的分布式文件系统,用于组建分布式文件集群,由 LiveJournal 旗下 Danga Interactive 公司开发,Danga 团队开发了包括 Memcached、MogileFS、Perlbal 等不错的开源项目:(注:Perlbal 是一个强大的 Perl 写的反向代理服务器)。
    MogileFS 内部提供了很强大的功能,对排错和调节也设计的非常好,只是普通的时候用不大,大家也不知道。现在我就来教大家一下,这些常用的 Mogilefsd 的命令,命令有如下: Mogilefsd 管理命令:...
    决定静下来这周好好看看 mogilefs 的实现。所以先从 http://code.sixapart.com/svn/mogilefs/ 的地址,来 checkout  sizapart 的这个系统的所有源码。为了简单点,先选择最老的一个版本来看。可以从 tag 中...
[ 共15篇文章 ][ 第1页/共1页 ][ 1 ]
© 2009 - 2024 by blogread.cn 微博:@IT技术博客大学习

京ICP备15002552号-1