京公网安备 11010802034615号
经营许可证编号:京B2-20210330
今天,数据比以往任何时候都更加根植于我们生活中的每个角落。我们试图用数据去解决问题、改善福利,并且促成新的经济繁荣。伴随着数据处理能力的提 升、运算与储存成本的井喷及越来越多的设备中嵌入各种传感技术,数据的收集、储存与分析正处于一个近乎无限上升的趋势。2011年,有人估算全世界的人们 一年创造与复制的信息量超过了1.8泽字节,而到2013年,这个数字上升到了4泽字节。
每一天,全世界会上传超过5亿张图片,每分钟就有20小时时长的视频被分享。然而,即使是人们每天创造的全部信息——包括语音通话、电子邮件和信息在内的各种通信,以及上传的全部图片、视频与音乐,其信息量也无法匹及每一天所创造出的关于人们自身的数字信息量。
这样的趋势会持续下去。我们现在还处于所谓“物联网”的最初级阶段,而随着技术成熟,我们的设备、交通工具和迅速发展的“可穿戴”科技将能互相 连接与沟通。科技的进步已经使创造、捕捉和管理信息的成本降至2005年的六分之一,而从2005年起,用在硬件、软件、人才及服务之上的商业投资也增长 了整整50%,达到了4000亿美元。
大数据的定义有很多,对于计算机科学家、金融分析师亦或是力图争取风险投资的企业家,这个定义都不尽相同。大多数的定义反映出了一种捕获、总和 与分析更大规模、更高速、更多样的数据的技术能力。换句话说,“现在人们可以更快地获取数据,数据涵盖更广阔的领域,衡量数据的数量级也是过去所达不到 的。”更准确地说,大数据集就是“产生于设备、传感器、网络交易、电子邮件、视频、点击流等当今与未来各种可能的数码资源,更大、更多样、更复杂、更长纵 深的分散性数据集。”
不论我们如何定义大数据这种科技现象,大数据分析所具有的无限潜力都对我们的法律、伦理及社会规范发起了挑战,考验我们能否在大数据的世界中保 护隐私和其他价值观。前所未有的运算能力带给了我们不可思议的发现、创新,并推动着我们生活质量的进步。然而,大多数普通消费者却难以看到这种力量,所以 这也造成了掌握数据的人与有意无意间提供数据的人之间权力的不对等。所以,比“大数据是什么”更加重要的是,“大数据能做到什么“,以及个人与数据收集者 之间的关系。
那么,大数据的精彩之处究竟是什么?下文将界定什么是大数据真正创新、真正不同的东西。要研究大数据,我们需关注那些数量之庞大、种类之繁多、 传输速度之快使传统数据捕捉分析方式无法胜任的数据,这样的特征被约定俗称为“三个V”(规模Volume,种类Varity,速度Velocity)。 不断降低的收集、储存、处理数据成本,以及越来越多的新数据源如传感器、相机、定位装置等观察性设备的出现,使得我们如今身处于一个数据采集无处不在的世 界。数据的收集和处理量是前所未有的。可联网设备、可穿戴科技和高级传感器监测着从生命迹象到能量使用再到慢跑者步速的一切,这样的数据爆炸对运算能力提 出了更高的要求,也将会推动更复杂数据管理技术的发展。
数据不仅仅是更多了,它的来源也更加广泛,形式也更加多元。一些数据是“数码原生”的,就是说它本身就是由计算机或数据处理系统创造出来的数码 信息,比如电子邮件、网页浏览和GPS位置数据。另一些数据是“虚拟原生“的,也就是说它来自实体世界,但被人为转换成数码形式,比如手机、相机和录像机 等拍摄的音视频,或者可穿戴设备监测下的心率、排汗等物理活动数据。随着数据融合能力的增强,越来越多本不相干的数据被综合到一起,大数据将会带给人们非 同寻常的洞察力。
此外,数据收集与分析的速度正在逐渐趋于实时,这就意味着数据分析可以对人所处的环境产生即时的影响,甚至左右人们的选择。高速数据的典型实例 是记录用户与网页交互活动的点击流数据、移动设备上的GPS实时定位数据,及各种社交媒体上的用户分享。客户和公司都有更大的实时分析、实时受益的需求。 当然了,一个手机地图应用如果不能实时、准确地定位,显然就失去了它的意义;车载系统的实时运算也是保障我们行车安全的关键。
如果应用得当,大数据分析能提高经济效率、改进消费习惯、完善政府服务,甚至挽救人的生命。比如:
一、大数据与“物联网”的发展具有融合工业经济与信息经济的潜力。如今,我们可以在飞机引擎和货运汽车上装备传感器,监测各种数据,并在需要维修的时候发出自动警报。不仅可以降低维修成本,更能增强安全性。
二、医疗保险和医疗补助中心已经开始使用预测分析软件标记潜在的医保诈骗行为,防骗保系统帮助实时识别高危人群,已成功防止了涉及一亿一千五百万美元的诈骗性支取,在应用此技术的第一年,每1美元的投入就获得了3美元的收益。
三、一项大数据研究汇总了来自新生儿重症监护室的数百万数据样本,用以判断哪些新生儿更容易接受致命的感染。通过分析这些数据,这套系统不用等 值班医生注意,就能辨认出诸多感染发生的早期征兆,例如体温升高、心率加速等等。在传统实践中,有些早期征兆是经验丰富的医师也难以注意到的。
大数据技术还在其他很多领域拥有不可限量的前景,如按需管理电网、改善能源效率、增加发展中国国家农产量,防止传染病传播等等。
新机遇也带来了新挑战。大数据科技从庞大的数据集中获取价值,赋予了研究者以往无法想象的洞察力。当然,大数据的技术力量如此广泛与深远,我们 也需要关注它对社会伦理造成的挑战。历史学家克朗兹伯格(Melvin Kranzberg)在他的《科技第一法则》中写道:“科技本身非善非恶,但它也不是中立的。”我们应该时刻记住,科技既可以为公众谋福利,也可能对人造 成伤害。关键就是,如何在机遇与挑战间寻找到最佳的平衡。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在MySQL数据库运维与开发实践中,经常出现一种典型现象:数据库实际存储的数据量很小,数据表条数少、文件体积低,但服务器整体 ...
2026-09-11 很多数据分析师能熟练计算均值、标准差,但当被问到“总体和样本有什么区别”“参数和统计量有什么关系”“数据级别的高低如 ...
2026-09-11CDA数据分析师 出品 作者:李诗怡 定义: 将同一时间段内因具备相同属性或共同经历的用户划分为群体,分析其留存与生命周期价值 ...
2026-09-11在零售、商超、餐饮、线下门店等实体商业运营中,客流与销售额是衡量门店经营状态的两大核心指标。销售额是门店经营的最终结果, ...
2026-09-10在数据可视化体系中,柱形图是最基础、应用最广泛的图表类型,其中**累计柱形图(堆积柱状图)**是兼顾整体总量与内部结构的核心 ...
2026-09-10 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-09-10在Python Pandas数据分析中,DataFrame是承载结构化数据的核心载体,数据清洗、数据修正、条件赋值、字段更新等实操场景,都离不 ...
2026-09-09 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-09-09卡方检验(Chi-Square Test)是统计学中针对分类数据的经典显著性检验方法,核心用于判断两个离散分类变量是否相互独立、数据实 ...
2026-09-09CDA数据分析师 出品 作者:李诗怡 1. 销售漏斗阶段判断 题目:销售漏斗模型中,通过广告、社交媒体等方式触达品牌信息(如浏览品 ...
2026-09-07在Python数据分析中,Pandas库的DataFrame是最核心、最常用的结构化数据表对象,类似于Excel的二维表格,具备规整的行列结构、字 ...
2026-09-07在数据分析、经营复盘、业绩预测与经济统计工作中,平均增速(平均增长率)是衡量数据长期变化趋势、业务发展快慢的核心指标。不 ...
2026-09-07 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-09-07随着大数据技术的快速发展,商业竞争逐步从传统的经验式经营转变为数据驱动的精细化运营。海量的用户行为数据、交易数据、运营数 ...
2026-09-04CDA数据分析师 出品 作者:李诗怡 1. 波士顿矩阵(BCG Matrix) 定义: BCG于1970年提出的业务组合分析工具,以"市场增长率"(纵 ...
2026-09-04 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-09-04数据透视表是Excel与Power BI中最核心的数据分析工具,具备快速汇总、维度拆分、动态筛选的能力,可高效完成数据归类与统计展示 ...
2026-09-03在Power BI数据分析可视化场景中,堆积柱状图+折线图是最常用的复合图表组合。堆积柱状图适合展示各细分维度当期数值、结构占比 ...
2026-09-03 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-09-03CDA数据分析师 出品 作者:李诗怡 一、8个核心数据清洗函数 1. TRIM:一键清除多余空格(最常用) 作用:仅保留文本中"单词/字 ...
2026-09-02