京公网安备 11010802034615号
经营许可证编号:京B2-20210330
理性看待“大数据”热_数据分析师
理性看待“大数据”热
国务院发展研究中心技术经济研究部 田杰棠
继物联网、云计算之后,大数据已经成为当前信息技术产业最受关注的概念之一。面对社会各界纷纷关注的“大数据”热,应充分认识其内在机理及带来的挑战,进一步理清对策思路
种类繁杂、数量庞大的大数据,为我们更深入、更准确地认识和把握事物发展的内在规律提供了信息基础,其中蕴涵着非常大的潜在价值。这一点不仅是许多业内研究机构的共识,也已经在商业应用中得到了体现。
目前,大数据的应用已经有了许多典型案例,如IBM日本公司利用互联网搜索数据建立的经济指标预测系统,以及美国印第安纳大学利用谷歌公司提供的心情分析工具对道琼斯工业指数变化的预测,已经达到比较高的准确率。除了经济分析外,在农业、医药卫生、制造业等领域,也有一些成功应用大数据进行预测的案例。据美国麦肯锡公司预测,大数据将为美国医疗服务业每年带来3000亿美元的潜在增加值,为欧洲的公共管理每年带来2500亿欧元的潜在价值,为位置服务产业带来6000亿美元的潜在年收入。零售商充分利用大数据可实现运营利润增长60%,制造业充分利用大数据可降低设备装配成本50%。经合组织的一项最新研究成果还对互联网数据的市场价值进行了估计,佐证了大数据的巨大潜在价值。
相对而言,目前我国大数据产业还处于发展初期,市场规模仍然比较小,2012年仅为4.5亿元,而且主导厂商仍以外企居多。据预测,2016年我国大数据应用的整体市场规模将突破百亿元量级,未来将形成全球最大的大数据产业带。然而,相对于发展前景的乐观预测,我国发展大数据产业面临的现实挑战更值得认真分析和对待。
一是如何使分散在不同部门和主体的数据得到合理有效应用。需要明确哪些数据可以用、哪些数据不能任意地进行商业应用。二是如何构建可支撑大数据的IT基础设施。这一点涉及对传统数据中心的改造和利用、新型云计算存储和处理系统的建设,以及如何尽快建设一个高速、方便接入的互联网通道。三是如何掌握大数据挖掘技术和培养大数据专业人才。大数据分析需要相关技术与人才的支撑。发达国家的部分IT企业已经初步掌握了一些数据分析预测的关键技术,我国相关企业的技术能力还比较落后。麦肯锡公司预测美国到2018年需要大数据分析人才40多万,人才缺口将达10多万。我国刚刚引入大数据概念,人才匮乏问题更加突出。四是如何避免未来出现大数据产业重复建设甚至产能过剩问题。对于热度正高的大数据产业,如何避免因政府不当干预导致这些问题重演,是对我国当前区域竞争下产业发展体制的一个挑战。
总之,面对社会各界的“大数据”热,应理性分析、冷静观察,扎实做好几个方面的基础性工作。
第一,不必急于出台战略性规划和设立产业专项资金。国内的IT企业和地方政府已经意识到大数据产业的发展前景,对发展大数据应用有着较大热情。某些城市已经启动了大数据发展战略,计划到2017年形成至少500亿元的产业规模。在这种情况下,以规划和专项资金等方式进行鼓励,有可能扭曲正常的市场行为,甚至催生泡沫。
第二,合理改造、建设和布局IT基础设施。对现有的传统数据中心及大量的旧服务器资源,可以通过建立虚拟数据中心或进行就近合并等方式进行改造利用,探索如何通过虚拟化技术和云计算平台管理软件来提高利用效率。对新建的大规模云计算数据中心应进行统筹、合理布局,协调不同省市之间加强互补合作,将能源和气候因素作为项目建设的重要条件,保证经济上的合理性。按照网络建设适度超前于产业发展的原则,加快“宽带普及提速工程”的推进速度,尽快解决大数据应用发展的网络带宽瓶颈。
第三,资助大数据竞争前技术的研究,培养大数据分析人才。在现有政府科技计划中,适度安排项目资金支持大数据关键技术的研发,重点在于竞争前技术,鼓励企业牵头或参与承担。人才培养应从高等教育和企业技术人员再培训两个方面入手,允许大学设立大数据相关专业并进行招生,鼓励地方政府出台关于大数据技术人才培训的相关政策。
此外,还要推动数据隐私保护和公共机构信息公开等立法修法工作。目前,《关于加强网络信息保护的决定》已经通过,应在此基础上继续完善个人隐私保护的相关立法,同时还要推动政府及公益性机构信息公开,使更多的可公开数据得到合理应用。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在MySQL数据库运维与开发实践中,经常出现一种典型现象:数据库实际存储的数据量很小,数据表条数少、文件体积低,但服务器整体 ...
2026-09-11 很多数据分析师能熟练计算均值、标准差,但当被问到“总体和样本有什么区别”“参数和统计量有什么关系”“数据级别的高低如 ...
2026-09-11CDA数据分析师 出品 作者:李诗怡 定义: 将同一时间段内因具备相同属性或共同经历的用户划分为群体,分析其留存与生命周期价值 ...
2026-09-11在零售、商超、餐饮、线下门店等实体商业运营中,客流与销售额是衡量门店经营状态的两大核心指标。销售额是门店经营的最终结果, ...
2026-09-10在数据可视化体系中,柱形图是最基础、应用最广泛的图表类型,其中**累计柱形图(堆积柱状图)**是兼顾整体总量与内部结构的核心 ...
2026-09-10 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-09-10在Python Pandas数据分析中,DataFrame是承载结构化数据的核心载体,数据清洗、数据修正、条件赋值、字段更新等实操场景,都离不 ...
2026-09-09 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-09-09卡方检验(Chi-Square Test)是统计学中针对分类数据的经典显著性检验方法,核心用于判断两个离散分类变量是否相互独立、数据实 ...
2026-09-09CDA数据分析师 出品 作者:李诗怡 1. 销售漏斗阶段判断 题目:销售漏斗模型中,通过广告、社交媒体等方式触达品牌信息(如浏览品 ...
2026-09-07在Python数据分析中,Pandas库的DataFrame是最核心、最常用的结构化数据表对象,类似于Excel的二维表格,具备规整的行列结构、字 ...
2026-09-07在数据分析、经营复盘、业绩预测与经济统计工作中,平均增速(平均增长率)是衡量数据长期变化趋势、业务发展快慢的核心指标。不 ...
2026-09-07 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-09-07随着大数据技术的快速发展,商业竞争逐步从传统的经验式经营转变为数据驱动的精细化运营。海量的用户行为数据、交易数据、运营数 ...
2026-09-04CDA数据分析师 出品 作者:李诗怡 1. 波士顿矩阵(BCG Matrix) 定义: BCG于1970年提出的业务组合分析工具,以"市场增长率"(纵 ...
2026-09-04 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-09-04数据透视表是Excel与Power BI中最核心的数据分析工具,具备快速汇总、维度拆分、动态筛选的能力,可高效完成数据归类与统计展示 ...
2026-09-03在Power BI数据分析可视化场景中,堆积柱状图+折线图是最常用的复合图表组合。堆积柱状图适合展示各细分维度当期数值、结构占比 ...
2026-09-03 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-09-03CDA数据分析师 出品 作者:李诗怡 一、8个核心数据清洗函数 1. TRIM:一键清除多余空格(最常用) 作用:仅保留文本中"单词/字 ...
2026-09-02