京公网安备 11010802034615号
经营许可证编号:京B2-20210330
虚拟化和云计算:大数据价值的左膀右臂
“滴答”一秒钟过去了。你知道在这一秒钟里面,互联网上发生了什么变化吗?大数据犹如一块大蛋糕,激发起人们投身未来的激情的同时,也给人们当头一棒:现有的架构体系并不足以支撑大数据时代。而在目前来看,发展成熟的虚拟化和当下红的发紫的云计算,似乎成了大数据价值实现的左膀右臂……
“滴答”一秒钟过去了,在互联网上,人们发送了290封电子邮件;亚马逊处理72.9笔订单;人们在Youtube上传时长达20分钟视频……这些,其实就是见证一种趋势:大数据。
大数据是一种大规模数据的管理和利用的商业模式和技术平台的泛指,它与传统的海量数据不同的是,它除了数据规模呈现几何级数增长的特征之外,还包括所有数据类型的采集、分类、处理、分析和展现等多个方面,从而最终实现从大数据挖掘潜在巨大价值的目的。
根据IDC的统计报告指出,这种大数据未来发展将会给数据存储和相关的应用服务带来显著增长。比如在存储领域,从2010年至2015年间,复合年度增长将达到61.4%。在中国方面,根据IDC《中国大数据技术与服务市场2012-2016年预测与分析》显示,该市场规模将会从2011年的7760万美元增长到2016年的6.17亿美元,未来5年的复合增长率达51.4%,市场规模增长近7倍。
值得注意的是,现有的技术架构并不能很好地切割、分享这么一块大蛋糕。在众多大数据解决方案中,Hadoop成为了人们实现大数据分析的首选,然而,它仍然离不开虚拟化和云计算技术和平台的支撑。发展成熟的虚拟化和有着广阔前景的云计算,将成为大数据价值实现的左膀右臂。
面对海量数据的增长,传统架构虽然能够进行扩充,但它却面临着不能实现水平横向扩展的局限性,传统的IT架构和数据处理方式无法有效地应对大数据环境。数据的存储、计算、管理、分析等节点都需要适应大数据需求的方案,同时也要满足性能上的扩展。因此,基于数据中心的IT基础设施,也必将从传统的数据中心迈向云数据中心转型。
云数据中心是云计算背景下新的业务需求和资源利用模式与数据中心的完美结合。云模式已成为企业利用数据中心平台应对大数据挑战的重要方式。根据IBM的数据报告,当前数据中心有85%的运算能力存在闲置,50%至60%的数据中心IT负载可以采用云计算技术。这些,其实挖掘大数据价值的解决方案对它们有着同样的诉求。
云计算为何会助力大数据挖掘价值呢?我们可以从以下三个方面来探讨:
一、云计算帮助大数据平台降低复杂性,简化运维,提升资源活性和利用效率
云计算通过基于网络的服务交付,将硬件等基础架构融合为无形的IT资源,并借助负载均衡、分布式计算、并行计算、虚拟化、网络存储和统一管理等技术手段,实现IT服务的无缝化、定制化和伸缩性交付。
二、云计算帮助云数据中心降低成本,有利于将更多资金投入到增值业务中
由于采用了大量的虚拟化技术和统一的跨平台管理,可以帮助运营商/企业用户节省大量的设施成本和软件许可费用。此外,云数据中心的资源利用率能够得到进一步提升,并且在负载均衡方面也有更出色的表现,从而最大化保护用户投资,实现产品服务生命周期内价值最大化。节约下来的资本则可以投放在大数据的前期采集(增加数据源和数据类型)、存储、处理、分析并最终实现决策参考等各个业务环节。
三、云计算可支撑基于大数据的灵活高效IT服务,满足多种个性化需求
云计算和大数据一样,都有基于分布式计算的应用。不过,大数据更多的是需要有集群带来的高性能计算和存储扩展(横向和纵向)。借助云计算的分布式系统和虚拟化灵活调配资源,可以帮助大数据的各项分析、处理、挖掘提供高效灵活的IT服务支撑,满足用户个性化/定制化大数据挖掘、分析需求。
很多企业IT应用虚拟化程度仅有20%-30%。但随着云计算的逐步成熟与落地,云数据中心也越来越被企业接受。当然,这种虚拟化在云数据中心中的应用也就更加广泛了。另一方面,并不是所有的企业都有足够的精力和能力去应对部署Hadoop带来的挑战(部署门槛和系统调优门槛),而且Name Node和Job tracker存在单点失效问题,Hive、HCatalog等非Hadoop核心模块也没有双机集群高可用性的保障,专有的Hadoop集群CPU利用率低,Hadoop和非Hadoop负载不能直接共享资源,等等。这一系列的问题,都给Hadoop的使用带来了诸多不便。
在这种情况下,引入虚拟化解决方案就成为了破解这些难题的“救命稻草”了。服务器虚拟化、甚至基于计算、网络、存储各个模块的全面虚拟化,有助于降低成本和提升集群系统的可用性和可靠性,避免Hadoop集群带来的昂贵成本负担,使得广大中型企业也可以实现大数据的分析和应用,而且也可以帮助提升大数据的服务价值。
另外一种情况是,基础设施的全面虚拟化,还可以顺应大数据几何级数增长的发展态势,从而从一开始就紧随业务/大数据价值挖掘的需求不断推进,提升大数据价值内涵。
编后语:
虚拟化和云计算,将为大数据价值的挖掘提供更富有灵活扩展、高效利用的技术支持。虽然大数据需要有更多的新技术来帮助实现,但早已发展成熟的虚拟化以及当下流行应用的云计算,将有助于简化大数据价值的挖掘和服务的提供,从而实现大数据的更快部署实施和惠及更多地区、行业用户的应用服务。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据驱动决策的体系中,数据分析按照分析目的可分为描述性分析、诊断性分析、预测性分析与指导性分析四大类型。其中,诊断性分 ...
2026-09-01网络请求是Python爬虫开发、接口测试、数据拉取的核心基础功能,Python生态中主要依靠 urllib 和 requests 两大库实现HTTP请求操 ...
2026-09-01 很多数据分析师面对业务问题时,常常感到“知道要分析,却不知道用什么方法”。其实,数据分析并非无章可循——从三大基础范 ...
2026-09-01在数据库设计与业务数据维护中,自增ID是数据表最常用的主键字段,用于唯一标识每一条业务数据,正常状态下ID应保持连续递增。但 ...
2026-08-31在数理统计、数据分析、经济测算与日常量化评估中,平均值是刻画数据集中趋势、反映整体水平的基础核心指标。在实际应用中,最常 ...
2026-08-31在数据驱动的时代,数据分析早已不是“凭经验、靠感觉”的零散操作,而是一套具备固定逻辑、标准化流程的系统方法——这就是数据 ...
2026-08-31在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具,承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习,实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24