加入收藏 | 设为首页 | 会员中心 | 我要投稿 河北网 (https://www.hebeiwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 移动互联 > 正文

容器云在行使漫衍式存储时,HDFS、CEPH、GFS、GPFS、Swift 等哪种更好?

发布时间:2019-06-21 16:14:10 所属栏目:移动互联 来源:talkwithtrend
导读:容器云在行使漫衍式存储时,HDFS、CEPH、GFS、GPFS、Swift平漫衍式存储哪种更好? 【题目描写】今朝,公司在举办容器云技能选型,打算回收贸易产物,已打仗华为、RANCHER、阿里等产物提供商,现想相知趣应的漫衍式存储怎样匹配,HDFS、CEPH、GFS、GPFS、Swi

容器云在行使漫衍式存储时,HDFS、CEPH、GFS、GPFS、Swift 等哪种更好?

容器云在行使漫衍式存储时,HDFS、CEPH、GFS、GPFS、Swift平漫衍式存储哪种更好?

【题目描写】今朝,公司在举办容器云技能选型,打算回收贸易产物,已打仗华为、RANCHER、阿里等产物提供商,现想相知趣应的漫衍式存储怎样匹配,HDFS、CEPH、GFS、GPFS、Swift平漫衍式存储,回收哪种更好,首要场景是容器存储应用日记、设置文件、非布局化数据文件等,请列位大神一连指导。(@yin986 软件架构计划师 某保险)

@Steven99 软件架构计划师

日记文件跟着时刻会是个很大的量,以是提议思量同一的日记中心存储处理赏罚,可以用es等,备份到hdfs。

设置文件在量上凡是不是个题目,可以思量设置中心同一打点,无需特殊存储。

非布局化数据凡是是大量的文件,可以回收传统nas或漫衍式工具存储,虽然资金丰裕可以采购好的存储,存储机能很重要,按照营业重要水平选择差异的存储。

@Garyy 某保险体系工程师

容器存储的耐久化,对付有状态数据的容器行使场景来说至关重要。因此,在技能选型的时辰,必要明晰存储的详细需求。存储凭证数据范例来分,可以分为块存储,工具存储,文件存储。我们传统的情形中,行使最多的照旧块存储和文件存储。跟着IT的更新换代,此刻对付工具存储(非布局化数据)的需求日益兴隆,工具存储在对一些Key-Value型数据的存储有着自然的上风,再加上其漫衍式,副本/纠删码等可以匹配传统存储的特征,日益成为温数据/冷数据存储的不二之选。

HDFS/CEPH/GFS/GPFS/Swift这类漫衍式存储,凭证存储的范例来区分,HDFS/GPFS/GFS属于文件存储,CEPH属于同一存储--即块/工具/文件同一体,Swift属于工具存储-今朝属于OpenStack下面的一个子项目。

1.HDFS

Hadoop漫衍式文件体系(HDFS)被计划成得当运行在通用硬件(commodity hardware)上的漫衍式文件体系。它和现有的漫衍式文件体系有许多配合点。但同时,它和其他的漫衍式文件体系的区别也是很明明的。HDFS是一个高度容错性的体系,得当陈设在便宜的呆板上。HDFS能提供高吞吐量的数据会见,很是得当大局限数据集上的应用。HDFS放宽了一部门POSIX束缚,来实现流式读取文件体系数据的目标。

HDFS有着高容错性(fault-tolerant)的特点,而且计划用来陈设在低廉的(low-cost)硬件上。并且它提供高吞吐量(high throughput)来会见应用措施的数据,得当那些有着超大数据集(large data set)的应用措施。HDFS放宽了(relax)POSIX的要求(requirements)这样可以实现流的情势会见(streaming access)文件体系中的数据。

2.GFS

GFS是一个可扩展的漫衍式文件体系,用于大型的、漫衍式的、对大量数据举办会见的应用。它运行于便宜的平凡硬件上,并提供容错成果。它可以给大量的用户提供总体机能较高的处事。

3.GPFS

GPFS(General Parallel File System ,GPFS) 是 IBM 公司第一个共享文件体系,发源于 IBM SP 体系上行使的假造共享磁盘技能( VSD )。作为这项技能的焦点, GPFS 是一个并行的磁盘文件体系,它担保在资源组内的 全部节点可以并行会见整个文件体系;并且针对此文件体系的处事操纵,可以同时安详地在 行使此文件体系的多个节点上实现。 GPFS 应承客户共享文件,而这些文件也许漫衍在差异节点的差异硬盘上;它提供了很多尺度的 UNIX 文件体系接口,应承应用不需修改可能从头编辑就可以在其上运行。

4.CEPH

Ceph是一个靠得住地、自动重平衡、自动规复的漫衍式存储体系,按照场景分别可以将Ceph分为三大块,别离是工具存储、块装备存储和文件体系处事。在假造化规模里,较量常用到的是Ceph的块装备存储,好比在OpenStack项目里,Ceph的块装备存储可以对接OpenStack的cinder后端存储、Glance的镜像存储和假造机的数据存储,较量直观的是Ceph集群可以提供一个raw名目标块存储来作为假造机实例的硬盘。

Ceph对比其余存储的上风点在于它不光单是存储,同时还充实操作了存储节点上的计较手段,在存储每一个数据时,城市通过计较得出该数据存储的位置,只管将数据漫衍平衡,同时因为Ceph的精采计划,回收了CRUSH算法、HASH环等要领,使得它不存在传统的单点妨碍的题目,且跟着局限的扩大机能并不会受到影响。

5.Swift

Swift 最初是由 Rackspace 公司开拓的高可用漫衍式工具存储处事,并于 2010 年孝顺给 OpenStack 开源社区作为其最初的焦点子项目之一,为其 Nova 子项目提供虚机镜像存储处事。Swift 修建在较量自制的尺度硬件存储基本办法之上,无需回收 RAID(磁盘冗余阵列),通过在软件层面引入同等性散列技能和数据冗余性,捐躯必然水平的数据同等性来到达高可用性和可伸缩性,支持多租户模式、容器和工具读写操纵,得当办理互联网的应用场景下非布局化数据存储题目。

【编辑保举】

  1. 简朴先容Ceph漫衍式存储集群
  2. 面向差异需求的工具存储体系比拟:Ceph与Swift
  3. 大数据存储的进化史 --从 RAID 到 Hdfs
  4. 技能栈 | 史上最全的Ceph构件及组件说明
  5. Ceph漫衍式存储-常见OSD妨碍处理赏罚
【责任编辑:武晓燕 TEL:(010)68476606】
点赞 0

(编辑:河北网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    热点阅读