京公网安备 11010802034615号
经营许可证编号:京B2-20210330
从历史变革中认识和发展大数据
“大数据”的概念从问世到现在已有5年历史,这个概念从诞生到发展在全球引起了一次又一次热潮,经久不衰。为什么会这样?
从历史和全局战略认识大数据
大数据的浪潮翻涌至今,我认为有两个重要因素在起推动作用。第一个是人类社会在发展过程中对信息的渴求。在人类社会发展的所有时间里,信息一直是人和人类社会发展的最重要的内容。但是为什么直到5年前才“突然”出现大数据的概念?就是第二个因素——以传感技术、互联网、移动智能终端为代表的一系列新的信息技术,使得信息的获取、利用、集聚在数量上发生了突飞猛进的变化。
从这样的角度去分析,由于技术和信息内在的联系,我们会看到这两支力量在未来大数据为代表的信息时代的重要性将会进一步凸现,这是历史的角度。
我们还需要从全局的角度再来看一下大数据。2011年大数据概念产生的时候,当年4月份英国《经济学人》刊登了一篇专题文章论述“第三次工业革命”,指出大数据在其中发挥着重要作用。
是这样吗?至少我们看到了一系列重大变化:产业互联网、工业4.0、先进制造业、智能制造、中国制造2025……从中国2008年开始持续推进两化融合到两化深度融合,从电子商务到3D打印,从远程治疗到智慧治疗,从远程教育到智能教育……一系列经济和社会发展的新概念都在发生变化,我们从这样的发展变革中看到所有这些变化背后都有大数据在其中发挥着极其重要的作用。
为什么我们要从这两个角度去看大数据?由于技术进步和社会发展的需求,人类社会发展进入新的历史阶段,新的基础性技术力量和新的资源概念正在诞生。这个新的技术力量使信息技术和工业技术融合在一起,使我们从产品服务、生活管理等方面有了一个迈上新台阶的生产力构建。这个生产力构成的背后是人类社会自工业革命以来,由物质和能源建设的进步推动的社会发展演变成由能源、信息、产业三种资源共同推动社会的发展。
因此,大数据的热潮有其必然性、深刻性和广泛性。因此我们要重视大数据,用好大数据,否则便不能跟上历史发展的潮流。
从问题和价值导向来推动大数据产业
大数据技术我们面临什么问题?价值在哪?制高点在哪?
从技术的角度来看,主要有两大问题:一是大数据以每隔几年提升一个数量级的角度看,如今的计算机处理体系——以芯片为基础的处理体系机构是不是适应大数据发展的需要?答案很清晰,不是。迄今为止,以X86为代表、以ARM为代表、以存储芯片为代表的三个芯片架构从逻辑上来说都不符合大数据处理的需求,所以要从芯片开始重构适合大数据发展的处理需求。也即,要有新的芯片和新的处理结构,这是问题价值制高点。当真正满足大数据处理的芯片被设计出来,谁就站上了制高点。
从产业角度看,大数据产业大概可以分为两类:一类是“技术变成产业”,就像当年数据库管理系统变成了数据库公司,当真正的大数据处理芯片和计算架构形成时还将会形成新的产业;另一类是各个企业、机构甚至个人——以后我们很多“个人”都可以变成大数据的拥有者。
千万不要小看这点,我们对历史总是很容易健忘。20年前,很多机构包括中央部门,数据库量级是以G为代表的,而今个人都可以拥有T级的数据。这样的企业、机构、个人如何使数据管理应用成本更低、效率更高,这需要产业的支撑。因此谁能为这些“个体”的大数据应用提供便利,谁就会在发展过程中形成增值的发展基础。
然而从应用的角度看,大数据最重要的含义不在上述技术和产业,而是在于,所有企业、机构和个人如何将大数据变成我们提升能力、提升竞争力、提升生活质量的来源。那么在这个命题上,当前大数据应用的主要问题是什么?
我认为第一个问题是,数据有没有用、能不能用,能不能变成提高劳动生产力和提高市场占有率、提高创新能力、降低成本提升效率的源泉。这是社会进步的根本所在,也是大数据的本质所在。
所以,不管是企业还是机构,在讲大数据应用的时候,首先要解决的问题是“大数据能贡献什么价值”,然后通过这样的分析再去看大数据在哪,怎么才能得到。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
指标体系是企业数字化分析、业务监控、经营决策的核心基础框架,是将零散数据转化为可衡量、可对比、可落地业务价值的关键体系。 ...
2026-10-08随着市场竞争日趋饱和,同质化低价竞争逐渐陷入内卷僵局,传统以价格、渠道、促销为核心的营销模式边际效益持续递减。在此背景下 ...
2026-10-08 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-10-08你有没有想过,手机里点外卖、刷社交软件、转一笔账,背后到底是谁在替你"记着账"? 答案其实很简单:数据库,以及跟它对话的那 ...
2026-10-07CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 5W1H 分析法 定义:经典系统性思维框架,通过六个核心维度对问题进行全方位拆解与剖析,确 ...
2026-09-28 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 用户标签体系 定义: 通过一系列高度精炼的特征标识,对用户属性、行为与偏好进行量化刻画 ...
2026-09-24Pandas是Python生态中用于表格数据处理的核心库,广泛应用于数据清洗、统计运算、报表输出、数据分析建模等场景。在处理极大数值 ...
2026-09-24