登录
首页精彩阅读大数据架构中的lambda架构以及unifield架构
大数据架构中的lambda架构以及unifield架构
2019-04-30
收藏

在大数据架构中,有两个十分常见的架构,那就是lambda架构和unifield架构,这两个架构在大数据中占据着十分重要的地位,在这篇文章中我们就给大家介绍一下lambda架构和unifield架构,帮助大家更深一步的去了解大数据,为今后我们的大数据学习有帮助。

1.lambda架构

在大数据系统中,Lambda架构算是一个重要的架构,大多数架构基本都是Lambda架构或者基于其变种的架构。通常来说,Lambda的数据通道分为两条分支:实时流和离线。实时流依照流式架构,保障了其实时性,而离线则以批处理方式为主,保障了最终一致性。这就是流式通道处理为保障实效性更多的以增量计算为主辅助参考,而批处理层则对数据进行全量运算,保障其最终的一致性,因此Lambda最外层有一个实时层和离线层合并的动作,此动作是Lambda里非常重要的一个动作。这也是很多人最容易忽略的地方。而lambda架构的优点十分明显,那就是既有实时又有离线,对于数据分析场景涵盖的非常到位。当然,这个架构的缺点也需要我们去了解,那就是离线层和实时流虽然面临的场景不相同,但是其内部处理的逻辑却是相同,因此有大量荣誉和重复的模块存在。正因为如此,这个架构的适用场景同时存在实时和离线需求的情况。

2.unifield架构

Unifield架构表现更激进,将机器学习和数据处理揉为一体,从核心上来说,Unifield依旧以Lambda为主,不过对其进行了改造,在流处理层新增了机器学习层。新增了模型训练部分,并且将其在流式层进行使用。同时流式层不单使用模型,也包含着对模型的持续训练。Unifield架构的优点就是提供了一套数据分析和机器学习结合的架构方案,完美的解决了机器学习如何与数据平台进行结合的问题。缺点则是这个架构实施复杂度更高,对于机器学习架构来说,从软件包到硬件部署都和数据分析平台有着非常大的差别,因此在实施过程中的难度系数更高。所以这个架构学习起来是比较困难的。

我们在这篇文章中为大家介绍了两种常见的大数据架构的相关知识,具体就是unifield架构以及lambda架构。在大数据中,这两种架构都是十分常见的架构,所以大家要对这两个架构有所了解,希望这篇文章能够更好的帮助大家。

数据分析咨询请扫描二维码

客服在线
立即咨询