加入收藏 | 设为首页 | 会员中心 | 我要投稿 河北网 (https://www.hebeiwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 业界 > 正文

星环科技多模型数据数据处理平台Transwarp Data Hub 7.0正式发布

发布时间:2020-05-17 23:18:08 所属栏目:业界 来源:站长网
导读:副问题#e# 星环科技一站式大数据平台Transwarp Data Hub(TDH)每年城市有大版本更新迭代,5月15日在星环科技2020春季新品宣布会上推出的7.0版本,主打一站式多模异构数据处理赏罚,冲破了行业内广泛存在的差异数据库产物切换的未便利,通过一个平台处理赏罚多种数据
副问题[/!--empirenews.page--]

星环科技一站式大数据平台Transwarp Data Hub(TDH)每年城市有大版本更新迭代,5月15日在星环科技2020春季新品宣布会上推出的7.0版本,主打一站式多模异构数据处理赏罚,冲破了行业内广泛存在的差异数据库产物切换的未便利,通过一个平台处理赏罚多种数据模子,用户无需维护多种数据库即将成为实际。

数年来,星环科技一向僵持自主研发,逐年敦促技能前进,2013年星环科技创建时就从大数据的四个角度来界说产物,来办理大数据的4个V的需求,数据量大、数据的种类多、数据的及时性要求高、要从数据中掘客代价。TDH是可以用于办理大数据四个V的一站式平台办理方案,①大量化(volume),回收漫衍式计较和漫衍式存储框架,充实操作计较机集群的整体计较和存储手段,办理了数据大量化题目。② 速率化(velocity):回收及时流处理赏罚引擎,办理了用户对数据处理赏罚时效性的需求 ③ 多样化(variety):处理赏罚的数据范例不再范围于布局化数据,能同时处理赏罚文本数据、图数据等非布局化数据。 ④代价晋升(value):充实操作数据,用于多种数据模子的说明,晋升数据代价。

  满意客户需求应运而生的TDH7.0

颠末七年的不懈全力,发生了宣布会上看到的Transwarp Data Hub 7.0的整体构想。TDH从最初的一个多器材组合平台,慢慢经演酿成为一个多模子数据处理赏罚平台。今朝,各类大数据技能应用越来越普及。对付一些单一的典范场景,业界有了知名的办理方案,譬喻:布局化数据行使Hive;动态列模子行使Bigtable、Hbase;文档处理赏罚行使MogoDB;图数据行使Neo4j;搜刮引擎ElasticSearch,等等。但在现实应用中,用户的行使场景日趋伟大,处理赏罚多模子的需求日趋普及。在处理赏罚多模子的需求时,用户不得不回收多器材组合的殽杂要领,但这种殽杂要领的运维过于伟大,必必要维护多种数据库来满意差异模子的需求。因此,用户急切必要一个同一的平台办理日益多样机动的种种需求。

TDH7.0作为一个多模子的数据处理赏罚平台可以提供同一的数据操纵/查询说话 SQL、同一的数据计较引擎、同一的漫衍式存储打点体系、同一的资源打点框架,满意操作一个多模异构平台,处理赏罚多种数据的需求。产物从上而下分别为五个条理:①SQL层:开拓了同一的SQL引擎,兼容各类差异的SQL方言;②计较层:开拓了同一的计较引擎,举办同一的计较使命优化和分发;③存储模子层,TDH一个平台支持七种差异的存储模子,合用于差异的应用场景,包罗:图存储 Graph Storage、文档存储 Document Storage、全文检索 Full-text Search、键值存储 Key-Value Storage、队列殽杂存储 Row-Columnar Storage 、时安定理存储 Sequential Geospatial Storage、非布局化工具存储 Unstructured Object Storage。④存储打点层:开拓了同一的存储打点引擎,提供数据块漫衍打点、数据多副本同等性打点、文件处事打点等成果;⑤资源调治层,开拓了同一的资源调治框架,通过容器化编排,同一调治计较、存储、收集资源。

  TDH7.0多模子数据处理赏罚平台三大焦点上风

  上风一:极大晋升了各个产物的服从。假犹如一份数据必要举办多种差异模子说明:说明查询、恍惚匹配查询、相关推理查询。TDH可以针对差异需求回收多种最优存储模子:说明查询回收队列殽杂存储;恍惚匹配查询回收全文检索;相关推理查询回收图数据存储。多种模式的存储,可以使各场景下的查询说明机能都获得极大优化。

 上风二:便捷的应用开拓。在传统殽杂模子中,差异模子数据间做关联说明,必要举办跨数据库的数据导入导出,异常伟大。而我们的产物回收了同一的数据打点,一个简朴的SQL语句就可以直接举办关联查询,犹如操纵统一个数据库一样平常,使应用开拓变得异常便捷。

 上风三:低落运维本钱。在传统殽杂模子中,差异模子必要运维差异数据库。出格当统一份数据存储于大都据库时,数据同等性成为极大挑衅。另外,数据总体环境的运维,必要各个运维子体系汇总并二次开拓,运维本钱庞大。而我们的产物回收了同一的数据打点,在产物底层处事中直接保障数据同等性,同时对多模子的数据举办整体运维,是自然的一体化体系。

星环科技新一代搜刮产物Transwarp New Search重磅推出

跟着新一代信息技能的成长,环绕着数据的收罗、传输、存储、打点、说明、应用各环节的大数据技能非常活泼。同时,数据库的技能也日新月异。除了传统的相关型数据库,也降生了很多非相关数据库相干的新兴技能。说到说明型非相关数据库,就不得不提到一类典范的营业:全文搜刮。

作为普及应用于TDH7.0中的全文检索产物,星环科技颠末几年的自主研发,在这次宣布会上推出了新一代搜刮产物Transwarp New Search。对比常见的开源产物,Transwarp New Search在机能方面有越发亮眼的上风,在数据处事上限、数据安详性、数据规复速率、数据读写速率、SQL计较机能,扩展成果等方面都有大幅的迭代和晋升。

 将数据处事上限晋升10倍:星环科技对内存行使举办了优化,回收了独创的堆外技能(Off-Heap)、冷却技能(Cooling)和自顺应段归并算法(Self-Adaption Segment Merge),节减了内存行使。因此,单节点单实例的数据量上限晋升至50TB阁下,是开源ES方案的五倍,大大晋升了磁盘的操作率,低落了用户的硬件本钱。另外,星环科技丢弃了开源产物***架构,回收漫衍式同等性协议(raft)来打点集群,将集群局限上限从100节点阁下晋升到200节点以上。

 数据安详性明显进步:星环科技丢弃了主从最终同等性模子,回收了漫衍式同等性协议(raft)来担保数据的强同等性。纵然极度的断电场景,也能担保数据同等性,数据安详大大晋升。另外,还提供了接纳站成果。用户误删除数据后,可以便捷的规复数据。产物行使更安详、更安心。

 数据规复速率快10倍:星环科技对写入数据做了细粒度的标志节制,单点妨碍数据规复时,回收增量数据拷贝方法,启动时刻加速,数分钟内完成。而开源产物集群局限上百节点时,单点妨碍规复时刻高出一小时。

数据读写速率更快:星环科技产物对读写线程资源的打点更严酷、更风雅,既担保集群不变性,又极力充实行使资源,使读写机能更优,并提供了Bulkload成果,批量写入速率和不变性大幅进步。与开源产物对比,节减存储资源20%,晋升查询速度2倍。

精采的SQL计较机能:星环科技引入了自主研发的漫衍式计较引擎,兼容开源ES的接口,同时很好的对接了SQL的生态。除了单点查询之外,大幅晋升了伟大聚合说明机能。语法上,星环科技的产物支持尺度SQL,也支持SQL扩展搜刮语义,以及Oracle、DB2等SQL方言,对数据库用户更友爱,进修、迁徙本钱更低。

(编辑:河北网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读