cda

数字化人才认证

您的位置:首页 > 大数据时代 > 这几种分布式计算框架,你必须知道!

这几种分布式计算框架,你必须知道!

2020-07-10

对于大数据的处理问题,计算机科学界有两大方向:一是集中式计算,另外一种是分布式计算。小编今天给大家整理的是几种主流的分布式计算框架,希望对大家有所帮助。

Hadoop是基础,它的HDFS能够存储文件,Yarn进行资源管理,在Hadoop的基础上运行MapReduce、Spark、Tez等计算框架。

MapReduce:是一种离线计算框架,将一个算法抽象成Map和Reduce两个阶段来处理,主要适用于大批量的密集型计算,但是因为是批量执行,因此时效性比较低。

Spark:类似于Hadoop MapReduce,是UC Berkeley AMP lab所开源的通用型并行计算框架,Spark通过map reduce算法,实现分布式计算,保留了 Hadoop MapReduce 所拥有的的优点;但是与MapReduce不同的地方是,时效性很高,Job中间输出和结果都能够保存在内存中,不再需要对HDFS进行读写,从而对有迭代计算需求和高时效性要求的系统提供了更多的支持,经常被应用于能够容忍小延时的推荐与计算系统。

Storm:Storm是一个免费开源、分布式、高容错的实时计算系统。Storm能够很容易的计算持续不断地流量,在实时处理上,很好地弥补了Hadoop批处理的不足。由于Storm一开始就是为实时处理而设计的,而且它理论上支持所有语言,只要少量代码就能完成适配器,经常用于在实时分析、性能监测、持续计算、在线机器学习、分布式远程调用以及ETL等时效性要求较高的领域。

Tez: 是基于Hadoop Yarn之上的DAG计算框架,直接源于MapReduce框架,它把Map Reduce过程拆分为若干个子过程,同时将多个Map Reduce任务合并成一个较大的DAG任务,减少了Map Reduce之间的文件存储,同时对其子过程进行合理组合,这也减少了运行任务的时间。

完 谢谢观看

分享
收藏

OK