京公网安备 11010802034615号
经营许可证编号:京B2-20210330
有些大数据神话,请不要盲目崇拜
大数据是什么?大数据可以做什么?大数据要如何做?每个人心里都有一杆秤,即使相对很有经验的CIO也会有不同的看法。让十位首席信息官去定义大数据,你会得到十个不同的答案。gartner分析师markbeyer说,这是因为大数据对企业的it专业人员来说仍然并不规范。
同时,beyer提出了八个大数据神话,这些神话
1.大数据起始于100tb。不要再去寻觅大数据标准尺寸了,因其并没有标准尺寸。“大数据是对数据的处理,而不是数据的大小,”beyer说。
2.想要大数据就必须更换基础设施。“如果我因为有新的需求就决定改变整个基础架构,那我是把之前所有的东西都当做了赌注,”beyer说。他的经验教训是什么?“你要搞清楚,(基础设施)成熟度牺牲的风险是否值得。”
3.百分之八十的数据是非结构化的。这可能是最经常被引用的大数据统计了,但根据beyer所说,其并不准确。“世界上最大的信息资产是机器数据。因为其并未相互关联就说它们非结构化绝对是个谎言。机器数据是结构化的数据。”顺便说一句,这些大量的机器数据,往往是重复的信息,确认了一切的正常。“这就是机器数据通常所表达的,”他说。
4.工具将取代数据科学家。放心,所有花在吸引,拉拢,获取数据科学家上的钱都不会白花,beyer说。“工具是一种工程,工程是对已经发现的事实的重复利用。而科学是去发现新的事实。”工具不会取代数据科学家-至少在工具可以自行复制和发展之前不会。
5.更多的数据就可以解决数据质量的问题。“数据质量越低,答案质量就越低,”beyer说。首席信息官们应该关注数据质量。以通过手机收集的气质地理定位数据为例,有些人把手机等同于真实的个人,他说。然而,手机可以被不小心留在办公室,或者gps功能可以在任何时间点被关闭。“手机不是人,”beyer说。
6.实时只是速度更快而已。实时操作,并不意味着加快了当前数据的摄入清理和分析过程,beyer说。而是“确保数据收集和决策之间的间隔越短越好,”他说。此外,大多数企业数据是不需要实时操作的。不过,实时操作也的确带来很多益处。在政府工作闭塞化的今天,苏州政府使用大数据魔镜将政府工作情况实时可视化展示给公民,不得不说是公共管理领域的一个好例子。
7.数据量优于专业知识。那些认为可以简单地不再管业务流程的人,请再想一想。这是因为,“一位好的数据科学家必须在某一时刻被叫停”,beyer说。如果没有业务流程,数据科学家将不断不断不断的进行下去而不能提供商业价值。需要有人帮忙划清界线。
8.数据模型没有用。这一论断很绝对。不过,beyer澄清说,任何数字资产里的东西都有其数字模型。“我们不会因为大数据就舍弃模型,”他说。
数据神话的观点在很多人心里已经根深蒂固,要把大数据发展壮大,消除对于这些数据神话的盲目崇拜是非常必要的。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 5W1H 分析法 定义:经典系统性思维框架,通过六个核心维度对问题进行全方位拆解与剖析,确 ...
2026-09-28 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 用户标签体系 定义: 通过一系列高度精炼的特征标识,对用户属性、行为与偏好进行量化刻画 ...
2026-09-24Pandas是Python生态中用于表格数据处理的核心库,广泛应用于数据清洗、统计运算、报表输出、数据分析建模等场景。在处理极大数值 ...
2026-09-24随着数字经济快速发展,数据已成为核心生产要素,各行各业的业务沉淀、用户行为、设备运行、市场交易均产生海量数据。数据处理作 ...
2026-09-24 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-09-24在时序数据分析中,大部分业务数据并非持续平稳变化,而是会在某些时间节点出现突然抬升、断崖下跌、趋势反转、波动异变等现象, ...
2026-09-23在统计学与数据分析中,研究多组数据差异最常用的方法为单因素方差分析与事后多重比较。很多数据分析初学者容易混淆两者功能,认 ...
2026-09-23