
虚拟化和云计算:大数据价值的左膀右臂
“滴答”一秒钟过去了。你知道在这一秒钟里面,互联网上发生了什么变化吗?大数据犹如一块大蛋糕,激发起人们投身未来的激情的同时,也给人们当头一棒:现有的架构体系并不足以支撑大数据时代。而在目前来看,发展成熟的虚拟化和当下红的发紫的云计算,似乎成了大数据价值实现的左膀右臂……
“滴答”一秒钟过去了,在互联网上,人们发送了290封电子邮件;亚马逊处理72.9笔订单;人们在Youtube上传时长达20分钟视频……这些,其实就是见证一种趋势:大数据。
大数据是一种大规模数据的管理和利用的商业模式和技术平台的泛指,它与传统的海量数据不同的是,它除了数据规模呈现几何级数增长的特征之外,还包括所有数据类型的采集、分类、处理、分析和展现等多个方面,从而最终实现从大数据挖掘潜在巨大价值的目的。
根据IDC的统计报告指出,这种大数据未来发展将会给数据存储和相关的应用服务带来显著增长。比如在存储领域,从2010年至2015年间,复合年度增长将达到61.4%。在中国方面,根据IDC《中国大数据技术与服务市场2012-2016年预测与分析》显示,该市场规模将会从2011年的7760万美元增长到2016年的6.17亿美元,未来5年的复合增长率达51.4%,市场规模增长近7倍。
值得注意的是,现有的技术架构并不能很好地切割、分享这么一块大蛋糕。在众多大数据解决方案中,Hadoop成为了人们实现大数据分析的首选,然而,它仍然离不开虚拟化和云计算技术和平台的支撑。发展成熟的虚拟化和有着广阔前景的云计算,将成为大数据价值实现的左膀右臂。
面对海量数据的增长,传统架构虽然能够进行扩充,但它却面临着不能实现水平横向扩展的局限性,传统的IT架构和数据处理方式无法有效地应对大数据环境。数据的存储、计算、管理、分析等节点都需要适应大数据需求的方案,同时也要满足性能上的扩展。因此,基于数据中心的IT基础设施,也必将从传统的数据中心迈向云数据中心转型。
云数据中心是云计算背景下新的业务需求和资源利用模式与数据中心的完美结合。云模式已成为企业利用数据中心平台应对大数据挑战的重要方式。根据IBM的数据报告,当前数据中心有85%的运算能力存在闲置,50%至60%的数据中心IT负载可以采用云计算技术。这些,其实挖掘大数据价值的解决方案对它们有着同样的诉求。
云计算为何会助力大数据挖掘价值呢?我们可以从以下三个方面来探讨:
一、云计算帮助大数据平台降低复杂性,简化运维,提升资源活性和利用效率
云计算通过基于网络的服务交付,将硬件等基础架构融合为无形的IT资源,并借助负载均衡、分布式计算、并行计算、虚拟化、网络存储和统一管理等技术手段,实现IT服务的无缝化、定制化和伸缩性交付。
二、云计算帮助云数据中心降低成本,有利于将更多资金投入到增值业务中
由于采用了大量的虚拟化技术和统一的跨平台管理,可以帮助运营商/企业用户节省大量的设施成本和软件许可费用。此外,云数据中心的资源利用率能够得到进一步提升,并且在负载均衡方面也有更出色的表现,从而最大化保护用户投资,实现产品服务生命周期内价值最大化。节约下来的资本则可以投放在大数据的前期采集(增加数据源和数据类型)、存储、处理、分析并最终实现决策参考等各个业务环节。
三、云计算可支撑基于大数据的灵活高效IT服务,满足多种个性化需求
云计算和大数据一样,都有基于分布式计算的应用。不过,大数据更多的是需要有集群带来的高性能计算和存储扩展(横向和纵向)。借助云计算的分布式系统和虚拟化灵活调配资源,可以帮助大数据的各项分析、处理、挖掘提供高效灵活的IT服务支撑,满足用户个性化/定制化大数据挖掘、分析需求。
很多企业IT应用虚拟化程度仅有20%-30%。但随着云计算的逐步成熟与落地,云数据中心也越来越被企业接受。当然,这种虚拟化在云数据中心中的应用也就更加广泛了。另一方面,并不是所有的企业都有足够的精力和能力去应对部署Hadoop带来的挑战(部署门槛和系统调优门槛),而且Name Node和Job tracker存在单点失效问题,Hive、HCatalog等非Hadoop核心模块也没有双机集群高可用性的保障,专有的Hadoop集群CPU利用率低,Hadoop和非Hadoop负载不能直接共享资源,等等。这一系列的问题,都给Hadoop的使用带来了诸多不便。
在这种情况下,引入虚拟化解决方案就成为了破解这些难题的“救命稻草”了。服务器虚拟化、甚至基于计算、网络、存储各个模块的全面虚拟化,有助于降低成本和提升集群系统的可用性和可靠性,避免Hadoop集群带来的昂贵成本负担,使得广大中型企业也可以实现大数据的分析和应用,而且也可以帮助提升大数据的服务价值。
另外一种情况是,基础设施的全面虚拟化,还可以顺应大数据几何级数增长的发展态势,从而从一开始就紧随业务/大数据价值挖掘的需求不断推进,提升大数据价值内涵。
编后语:
虚拟化和云计算,将为大数据价值的挖掘提供更富有灵活扩展、高效利用的技术支持。虽然大数据需要有更多的新技术来帮助实现,但早已发展成熟的虚拟化以及当下流行应用的云计算,将有助于简化大数据价值的挖掘和服务的提供,从而实现大数据的更快部署实施和惠及更多地区、行业用户的应用服务。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
2025 年,数据如同数字时代的 DNA,编码着人类社会的未来图景,驱动着商业时代的运转。从全球互联网用户每天产生的2.5亿TB数据, ...
2025-05-27CDA数据分析师证书考试体系(更新于2025年05月22日)
2025-05-26解码数据基因:从数字敏感度到逻辑思维 每当看到超市货架上商品的排列变化,你是否会联想到背后的销售数据波动?三年前在零售行 ...
2025-05-23在本文中,我们将探讨 AI 为何能够加速数据分析、如何在每个步骤中实现数据分析自动化以及使用哪些工具。 数据分析中的AI是什么 ...
2025-05-20当数据遇见人生:我的第一个分析项目 记得三年前接手第一个数据分析项目时,我面对Excel里密密麻麻的销售数据手足无措。那些跳动 ...
2025-05-20在数字化运营的时代,企业每天都在产生海量数据:用户点击行为、商品销售记录、广告投放反馈…… 这些数据就像散落的拼图,而相 ...
2025-05-19在当今数字化营销时代,小红书作为国内领先的社交电商平台,其销售数据蕴含着巨大的商业价值。通过对小红书销售数据的深入分析, ...
2025-05-16Excel作为最常用的数据分析工具,有没有什么工具可以帮助我们快速地使用excel表格,只要轻松几步甚至输入几项指令就能搞定呢? ...
2025-05-15数据,如同无形的燃料,驱动着现代社会的运转。从全球互联网用户每天产生的2.5亿TB数据,到制造业的传感器、金融交易 ...
2025-05-15大数据是什么_数据分析师培训 其实,现在的大数据指的并不仅仅是海量数据,更准确而言是对大数据分析的方法。传统的数 ...
2025-05-14CDA持证人简介: 万木,CDA L1持证人,某电商中厂BI工程师 ,5年数据经验1年BI内训师,高级数据分析师,拥有丰富的行业经验。 ...
2025-05-13CDA持证人简介: 王明月 ,CDA 数据分析师二级持证人,2年数据产品工作经验,管理学博士在读。 学习入口:https://edu.cda.cn/g ...
2025-05-12CDA持证人简介: 杨贞玺 ,CDA一级持证人,郑州大学情报学硕士研究生,某上市公司数据分析师。 学习入口:https://edu.cda.cn/g ...
2025-05-09CDA持证人简介 程靖 CDA会员大咖,畅销书《小白学产品》作者,13年顶级互联网公司产品经理相关经验,曾在百度、美团、阿里等 ...
2025-05-07相信很多做数据分析的小伙伴,都接到过一些高阶的数据分析需求,实现的过程需要用到一些数据获取,数据清洗转换,建模方法等,这 ...
2025-05-06以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda.cn/g ...
2025-04-30CDA持证人简介: 邱立峰 CDA 数据分析师二级持证人,数字化转型专家,数据治理专家,高级数据分析师,拥有丰富的行业经验。 ...
2025-04-29CDA持证人简介: 程靖 CDA会员大咖,畅销书《小白学产品》作者,13年顶级互联网公司产品经理相关经验,曾在百度,美团,阿里等 ...
2025-04-28CDA持证人简介: 居瑜 ,CDA一级持证人国企财务经理,13年财务管理运营经验,在数据分析就业和实践经验方面有着丰富的积累和经 ...
2025-04-27数据分析在当今信息时代发挥着重要作用。单因素方差分析(One-Way ANOVA)是一种关键的统计方法,用于比较三个或更多独立样本组 ...
2025-04-25