京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据 是一个革命性的概念
我和许多经理人讨论大数据现象时,也同样提到,我很喜欢大数据这个概念的一切,但唯独不喜欢这个名字。大数据是一个革命性的概念,它可能握有改变几乎各行各业的能力。不过,基于某几项塬因,这个专有名词本身大有问题。
第一个问题是,「大」只是这种新型态的数据有别于既有数据的面向之一,而且对许多组织而言,「大」并非最重要的特质。根据2012年由大数据顾问业者NewVantage Partners针对大型组织的五十名经理人所做的一项调查,在大公司里,他们所处理的较属于「数据缺乏结构」的问题,而非「数据量过于庞大」的问题。在该调查中,有30%的受访者表示,他们所处理的大数据问题主要在于「必须分析来自多个来源的数据」;另有22%的受访者则主要聚焦于「分析新型态的数据」;还有12%的人主要是「分析动态的数据串流」;只有28%的受访者是以分析大于1TB的数据集为主要工作,而且这群人当中有13%是在处理介于 1TB与100TB间的数据集,但若以大数据的标准来看,这样的数据量并不算多。
「大数据」这个称呼还存在着其他问题。「大」这个字,很明显是相对的──就算今天看起来很「大」,并不表示到了明天仍然算「大」。而且,前述调查也显示,对一家组织而言的「大」,对另一家组织来说可能很「小」。我个人基本上认为,「大」应该指的是1/10PB以上的数据,但就算数据真的多到会造成影响,也不过就是必须购买更多硬件来储存与处理这些数据而已。
有人以三个V(量〔volume〕、庞杂程度〔variety〕、累积的速度〔velocity〕)来定义大数据,但有人又另外加了几个V(真实性〔veracity〕、价值〔value〕──或许下一个V是「能够花钱搞定」〔venality〕),然而这样的描述也有问题。我认同这些都是大数据的重要特质,但假如你手边的数据只符合其中一两项的V呢?难道你就因此只握有三分之一或五分之二的大数据吗?
另一个问题是,太多人(尤其是相关软硬件厂商)已经把「大数据」一词拿来指称任何接受分析的数据,或者夸张一点,连纯粹呈报用的数据,或传统的企业内部资讯,也全都算在内。相关软硬件厂商与企管顾问,把任何热门新字眼拿来套用在自己既有的产品或服务上,已经是他们的惯用伎俩;在大数据方面,他们肯定也使用了这样的手法。假如你已开始在阅读谈论大数据的书籍、文章或广告,千万小心,里头若提到「数据导向决策」或是传统的数据分析手法,你所吸收的想法或许很有用、很有价值,但并不能算是什么新东西。
基于定义「大数据」时的上述问题,我(以及我徵询过其意见的一些专家)估计,这个不幸的术语,可能会比别的术语短命。媒体与新创企业都爱用这个字眼,但我已观察到,一些在大企业从事资讯工作的人,尤其是在银行、运输业者等已经长年掌握庞大数据的企业服务的人士,都不太爱用这样的字眼。简单讲,他们认为,这一代的新数据来源与型态,不过是先前好几代新东西的其中一代而已。当然,这并不表示「先前大家认知为大数据的那种现象」将会消失。假如你是要描述过去十年左右冒出来、种类繁多的大量新型态数据,就我所知,「大数据」依旧是最好的统称术语。
不过,由于这字眼实在太不精确,企业必须多解构一些,才能修正自己的策略,并且让利害关系人知道,管理团队有意如何运用这些新型态的数据,以及哪些类型的数据最为重要。大数据当然有许多不同的变种可以选择─而且每一种特质都有多种可能的选择,如图表1-2所示。你可以先从每一行之中选择一项。
换句话说,你与其说「我们正针对大数据推动一项硬件计划」,还不如说「我们正准备分析来自于ATM与各分行的影音数据,以求对顾客关系有更深入的了解」,会比较有建设性一些。或者,假如你服务于医疗业,你可以决定要「整合电子病历与基因数据,提供个人化的治疗方案」。此举除了有助于厘清目标与策略,也有助于避免无止境地讨论涉及的数据量究竟是大还是小(事实上,即便发展的是值得崇敬的出色事业,还是有少数企业承认,他们只有「小数据」需要处理而已─ 由此我也学到,若要让一个专有名词真正管用,就必须把彼此相对的两种情况都囊括进去).
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析全流程中,数据处理是基础,图形可视化是核心呈现手段——前者负责将杂乱无章的原始数据转化为干净、规范、可分析的格 ...
2026-04-07在数据分析与统计推断中,p值是衡量假设检验结果显著性的核心指标,其本质是在原假设(通常为“无效应”“无差异”)成立的前提 ...
2026-04-07在数字经济深度渗透的今天,数据已成为企业生存发展的核心资产,企业的竞争本质已转变为数据利用能力的竞争。然而,大量来自生产 ...
2026-04-07Python凭借简洁的语法、丰富的生态库,成为算法开发、数据处理、机器学习等领域的首选语言。但受限于动态类型、解释性执行的特性 ...
2026-04-03在深度学习神经网络中,卷积操作是实现数据特征提取的核心引擎,更是让模型“看懂”数据、“解读”数据的关键所在。不同于传统机 ...
2026-04-03当数字化转型从企业的“战略口号”落地为“生存之战”,越来越多的企业意识到,转型的核心并非技术的堆砌,而是数据价值的深度挖 ...
2026-04-03在日常办公数据分析中,数据透视表凭借高效的汇总、分组功能,成为Excel、WPS等办公软件中最常用的数据分析工具之一。其中,“计 ...
2026-04-02在数字化交互的全场景中,用户的每一次操作都在生成动态的行为轨迹——电商用户的“浏览商品→点击详情→加入购物车”,内容APP ...
2026-04-02在数字化转型深度推进的今天,企业数据已成为驱动业务增长、构建核心竞争力的战略资产,而数据安全则是守护这份资产的“生命线” ...
2026-04-02在数据驱动决策的浪潮中,数据挖掘与数据分析是两个高频出现且极易被混淆的概念。有人将二者等同看待,认为“做数据分析就是做数 ...
2026-04-01在数据驱动决策的时代,企业与从业者每天都会面对海量数据——电商平台的用户行为数据、金融机构的信贷风险数据、快消品牌的营销 ...
2026-04-01在数字化转型的浪潮中,企业数据已从“辅助运营的附属资源”升级为“驱动增长的核心资产”,而一套科学、可落地的企业数据管理方 ...
2026-04-01在数字化时代,每一位用户与产品的交互都会留下可追溯的行为轨迹——电商用户的浏览、加购、下单,APP用户的注册、登录、功能使 ...
2026-03-31在日常数据统计、市场调研、学术分析等场景中,我们常常需要判断两个分类变量之间是否存在关联(如性别与消费偏好、产品类型与满 ...
2026-03-31在CDA(Certified Data Analyst)数据分析师的职场实战与认证考核中,“可解释性建模”是核心需求之一——企业决策中,不仅需要 ...
2026-03-31多层感知机(MLP,Multilayer Perceptron)作为深度学习中最基础、最经典的神经网络模型,其结构设计直接决定了模型的拟合能力、 ...
2026-03-30在TensorFlow深度学习实战中,数据集的加载与预处理是基础且关键的第一步。手动下载、解压、解析数据集不仅耗时费力,还容易出现 ...
2026-03-30在CDA(Certified Data Analyst)数据分析师的日常工作中,“无监督分组、挖掘数据内在聚类规律”是高频核心需求——电商场景中 ...
2026-03-30机器学习的本质,是让模型通过对数据的学习,自主挖掘规律、实现预测与决策,而这一过程的核心驱动力,并非单一参数的独立作用, ...
2026-03-27在SQL Server数据库操作中,日期时间处理是高频核心需求——无论是报表统计中的日期格式化、数据筛选时的日期类型匹配,还是业务 ...
2026-03-27