zoukankan      html  css  js  c++  java
  • GFS

     

    解决的特点

    1.对于组件无法工作可以当作常态,因为机器数量以及廉价等原因,会频频出现机器组件失效问题
    2.对于处理的数据非常巨大
    3.对于数据大部分是追加,而不是覆盖
    4.能够提供API,来随时调整系统
     
    处理大规模顺序读,小规模随机读,能够处理大规模数据,通常被用于 生产者-消费者 模式
     
    一个GFS集群包含一个master和多个chunk服务器,可以同时被多个客户端访问
    ChunkServer:数据存储节点,包含多个固定大小的Chunk
    Chunk:每个文件至少一个Chunk,并存在唯一标示,默认一共3个副本
    master保存了元数据(描述数据的数据),chunk的管理等等
     
    Chunk的大小设置为较大的优缺点
    优点:对同一个Chunk进行多次读写操作,可以减少负载,保持长时间连接可以增强读的性能,可以减少master的内存
    缺点:会让Chunk成为热点,也就是说一直操作这个文件
     
     
    客户端 -(文件名,chunk索引)-> master
     
     
    GFS系统存储的3种主要类型的元数据:文件和chunk的命名空间,文件和chunk的对应关系,每个chunk副本的存放地点
     

    元数据

    元数据都保存在内存中(master),因此chunk的数量以及整个系统的承载能力都取决于master服务器所拥有的内存大小,但其实元数据所占用的内存并不大
    对于chunk的位置信息,master会轮询chunk服务器来获取
    对于某个操作,必须保证操作日志更新以后,才会去相应客户端查询日志文件
     

    租约

    客户端向master查询准备写入的chunk的信息
    master会返回第一个主副本为当前租约的副本
    客户端会向多个副本推送数据
    主副本在将数据写入本地的同时,通知其他副本讲数据写入各自节点
     

    Master节点

    通过锁,使得命名空间的修改为原子性的
    副本的存放,不能都放在同一磁盘或者物理机上,最大化网络带宽
    当创建一个chunk的时候要找一个空间利用率低的节点和磁盘,最近一段时间新建chunk较少的节点,并把副本放到不同的机架上

    垃圾回收

    GFS采取延时回收策略。当要删除文件时,会将其更改一个隐藏名字,并且增加一个删除时间,master会定期检查,一旦超时就会将其删除
    对于master不能识别的副本都是垃圾,但不会立即回收,会在周期性的常规垃圾扫描才回收,并在master相对空闲时完成

    快照

    对当前系统进行拍照,用户可以在任意时刻回滚到快照的状态
    当master收到快照请求时,并不会立即对chunk进行拷贝,只会保存其元数据,等到client需要修改指定chunk时,才会进行本地复制(本地复制可以节省带宽)

    容错

    Master和ChunkSever,都被设计成数秒内可以恢复并且重启,Client和其他服务器发现请求超时,会重连重启的Server
    ChunkServer关闭或者校验出损坏副本时,Master会通过已有的副本来保障副本个数
    CheckPoint文件+操作日志可以完成Master的恢复
  • 相关阅读:
    在windows上编译MatConvNet
    数学趣题:农夫卖鸡
    CVPR 2013
    Ubuntu12.04安装配置Theano
    CenOS下安装Eclipse并配置PyDev
    Leangoo共享思维导图如何导入导出Xmind文件?
    共享思维导图,协作型思维导图,Leangoo
    不能把开发团队对迭代目标的承诺视为保证-Scrum中文网
    leangoo项目管理软件卡片引用优化及卡片ID 优化
    Leangoo敏捷项目管理软件更新卡片定位
  • 原文地址:https://www.cnblogs.com/lmhyhblog/p/10517905.html
Copyright © 2011-2022 走看看