京公网安备 11010802034615号
经营许可证编号:京B2-20210330
数据库与大数据领域回顾与展望
2012注定是不平凡的一年,玛雅人将世界末日定在这一年的12月21日,然而这一天也许并不意味着结束,而是重生。正如2012对于大数据的意义一样,经过一年的历练,IT业界将在2013年迎来大数据元年。
一、2012年度回顾:大数据蓄势待发迎接元年
(一)2012年大数据呈现新特征
大数据不是刚刚出现的概念,大数据最早可以追溯到Apache的开源项目Nutch,当时大数据用来描述更新网络搜索索引所需批量处理或分析的大量数据集。随着谷歌MapReduce和GoogleFile System(GFS)的发布,大数据不仅仅用来描述大量的数据,还涵盖了处理数据的速度。
业界对大数据最普遍的认知是它的4V特征,即海量的数据规模(volume)、快速的数据流转和动态的数据体系(velocity)、多样的数据类型(variety)和巨大的数据价值(value)。2012年作为大数据产业蓄势待发的一年,大数据呈现以下新特征:
1.数据量增长更加迅速。随着社交网络和移动互联网的发展,数据呈现爆炸式增长,甚至过去三年里产生的数据量超越了以往四万年的数据量。国内最大的微博新浪微博在今年第三季度宣布注册用户已超过4亿,用户平均每天发布超过10亿条微博内容,活跃用户中有60%通过移动终端登录,所有来自移动终端的原创内容中,有40%的微博分享照片。根据IDC今年一项研究显示,未来10年全球数据量将以40%的速度增长,到2020年将达到35ZB(Zettabyte),大数据将迎来ZB时代。然而这仅仅是个开始,未来数据量将达到什么级别,我们无法想象。
2.数据在企业中的地位日益突出。数据是企业最宝贵的资源。当前,企业最迫切的就是希望能从大数据中挖掘商业价值,以保持其在市场中的竞争力。随着数据挖掘、数据分析和商业智能技术的不断深入,企业决策越来越依赖于数据。大数据将会创造一个新的经济领域,该领域的全部任务就是将信息或数据转化为经济利益。分析的数据越全面,分析结果就越接近于真实,才能更好的指导企业运营。.企业中的数据既包括结构化数据,也包括非结构化数据,且非结构化数据的比例越来越高。IDC在报告中指出,利用大数据的商业价值:领军企业与其他企业之间最大的显著差别在于新数据类型的引入,那些没有引入新的分析技术和新的数据类型的企业,不太可能成为其行业的领军者。
3.大数据人才缺口巨大。大数据时代更需要复合型人才,能够帮助组织在大量信息中挖掘有价值的数据,并将数据转化为深入的认知和精准预测的模型。大数据人才须具备综合性素质:他们通常是统计学家并且精通数据建模,同时知道如何在可用数据中使用最佳的算法,这极具技术含量。据Gartner预测,到2015年,全球将新增440万个与大数据相关的工作岗位,且会有25%的组织设立首席数据官职位。今年7月,阿里巴巴集团成为国内第一家任命首席数据官的企业,业内也普遍看好数据人才的未来。
4.企业对大数据的投入增加。2012年大数据市场的增长速度明显快于整个IT市场,据Gartner的最新统计,大数据市场销售额将在2012年增长21.4%,达到340亿美元。在今年大数据总开支中,只有43亿美元或12.6%的资金是直接由新的大数据功能产生的,而大部分的开支仍流向比较传统的解决方案,以满足企业对速度、多样性和数据容量的需求。目前企业对大数据的投入还停留在基础设施建设阶段,想要真正将数据转化为价值,还需继续在数据分析和展现等环节加大投入。
(二)IT巨头进军大数据 新兴企业不断涌现
大数据带来的商业机遇被越来越多的厂商看重,传统IT厂商陆续推出大数据产品及解决方案,引入多年技术积累和客户资源;同时大数据新兴企业不断涌现,大有超越前者之势。
1.IT巨头进军大数据。以IBM、Oracle、SAP、Intel、微软为代表的老牌IT厂商将业务触角伸向大数据产业,推出软件、硬件及软硬件一体化的行业解决方案。这其中既包括对Hadoop等开源大数据技术的集成,也包括各大厂商独有的创新技术。
收购也是IT巨头进入大数据市场的敲门砖。今年4月,虚拟化巨头VMware收购大数据分析的初创企业Cetas,提供Hadoop平台上的分析服务,从而开启VMware大数据之旅。另外,大数据收购案例还包括Teradata收购高级分析和管理各种非结构化数据领域的市场领导者和开拓者Aster Data,IBM收购商业分析公司Netezza等。
这些老牌IT厂商技术实力不俗,产品线丰富,在各个领域发挥重要作用。进军大数据市场,既增加了雄厚的技术底蕴,也能够让客户更容易的接受他们的产品或解决方案,逐渐成为大数据产业发展的主力军。
2.新兴企业不断涌现。与那些老牌IT厂商不同,大数据市场还吸引了许多新兴企业的加盟。面对大数据带来的无限商机,初创公司开始挖掘大数据的商业价值,推出别具一格的产品或解决方案。
在这些新兴企业中,有业内比较熟悉的基于Apache Hadoop的大数据分析解决方案的提供商Datameer、大数据分析公司Connotate、大数据技术初创公司ClearStory Data等,其中大数据公司Splunk于今年4月在纳斯达克成功上市。
新兴企业拥有独特的技术优势,是传统IT企业所不具有的。相对于IT巨头,新兴企业更能够从细化的角度服务企业,向企业提供更专业的大数据服务。因此,在充满机遇的大数据市场,新兴企业完全有可能超越IT巨头,在短时间内获得市场的认可。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 5W1H 分析法 定义:经典系统性思维框架,通过六个核心维度对问题进行全方位拆解与剖析,确 ...
2026-09-28 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 用户标签体系 定义: 通过一系列高度精炼的特征标识,对用户属性、行为与偏好进行量化刻画 ...
2026-09-24Pandas是Python生态中用于表格数据处理的核心库,广泛应用于数据清洗、统计运算、报表输出、数据分析建模等场景。在处理极大数值 ...
2026-09-24随着数字经济快速发展,数据已成为核心生产要素,各行各业的业务沉淀、用户行为、设备运行、市场交易均产生海量数据。数据处理作 ...
2026-09-24 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-09-24在时序数据分析中,大部分业务数据并非持续平稳变化,而是会在某些时间节点出现突然抬升、断崖下跌、趋势反转、波动异变等现象, ...
2026-09-23在统计学与数据分析中,研究多组数据差异最常用的方法为单因素方差分析与事后多重比较。很多数据分析初学者容易混淆两者功能,认 ...
2026-09-23