京公网安备 11010802034615号
经营许可证编号:京B2-20210330
别被忽悠了,6个问题揭露谁是大数据伪砖家
我最近读了一些“大数据”方面的文章,发现了这个最新的科技泡沫中迷惑但是完全可预测的趋势。由于大数据很热门、时髦、并且性感,表面上看很有趣。每个人都加入进来,跃跃欲试,好像他们是专家一样。如果这让你开始觉得像是知识分子在Facebook上关于国际政治的演讲一样,这绝非意外。在大数据的讨论中掺杂的专业知识和经验,与Facebook上关于政治的空话一样。

我想我可能会帮你判断自己的大数据专家到底是不是真正的专家。看看下面的这些言论对你来讲是不是很熟悉呢。
1.他们谈论的都是”大“和”数据“,而不是 “新问题”
看上去好像整个科技行业都沉浸在 “大数据”之中。所有人都在讨论它,刚刚成立的公司如雨后春笋般出现,LinkedIn上99.9%的简历都包括”数据科学家“这个词语,然而人们并不清楚这个词语真正的意义是什么。
确实,大多数的公司在并没有太大的商业价值的硬件和软件上投入了大量的钱。这并不奇怪。”大数据“对于发生在我们身边的变革来讲是个糟糕的名字。这与”大“无关,与”数据“也无关,而是与新问题有关,接触海量的数据的方便性更促使了新问题的产生。去年我听过Klout网站(一个评价影响力的网站)的技术主任做的一个报告。他提到,他们的数据库有1.3万亿行的数据,就像是他们那里有那么多人一样;也智能如此吧。
如果你现在问的问题还是以前-----有没有更多的数据这种老问题,那并不是在做“大数据”,而是在做”大的商务智能”,这个词语本身就是矛盾。
2.他们谈论的是技术,而非商业
有一天有个人问我,“Hadoop 对数据归档有什么影响”。 Hadoop是一种工具,大数据是一个商业现象。很多人认为Hadoop是一种解决方法,大数据仅仅是在档案中蹲坐着的数据。错误的信息和销售宣传使人们迷失其中。
很容易这些人就陷入了速度和容量、特性与功能的讨论中。这项技术是由工程驱动的,没有什么比填的满满的的规格表更能引起我们这些工程师兴奋了。如果你是一个谨慎的CFO;世界上没有比一个招人嫉妒的软件架构师更昂贵的了。
很多企业现在问了在大数据中投入了这么多的资金,也要问了,“价值在哪儿?”好吧,如果你不将自己的项目聚焦到对商业问题的理解和解决上,那么你的项目所研究的出来的结果不大有可能是解决商业问题的方案。
你可能会建成世界上最大的云服务商,但是除了留给自己一点自夸的东西,谁又关心这个呢?从一个商业问题开始,弄清楚怎样将问题数据化,然后利用科技找到解决方法。
3.他们关心大数据更内在的东西,而不是行动
我合作过的很多机构将数据分析作为结果,完全忽视了大数据的重点:行动。你可以构造出世界上最大的云结构,将其填满最干净的数据,用最好的数学模型模拟,产生令人惊奇的见解。如果这些工作做完了之后,你还没有改变公司的行为方式,你的产品和服务可以帮助你的顾客做些什么呢,或者你是怎样关怀周围的世界的呢。终归到底,你会彻底失败。
大数据不能仅仅是新的见解,它必须是新的行动和新的结果。我并不是LHC的痴迷者,这个人类历史上最大的科学实验,最近确认了上帝粒子(Higgs粒子)的存在。然而,如果Higgs的知识没有赋予这个粒子一些意义,我们都将继续质疑在LHC上花费的数十亿美金是否值得。
洞察力很重要,但是行动才是养家挣钱的来源。如果你的“大数据专家”在提出新见解的路上乐此不疲,而不是想法设法创造新的商业成效。那你是在经营一个科学实验了。
4.他们讨论的是结论,而非联系
如果你已经从花费在大数据的努力中得到分析性结果了,你的“大数据科学家”在谈论的是“结论”,这一波的大数据专家很多并不理解联系和诱因之间的细微差别。两者看上去是一样的,然而涉及到行动时,这区别可大了去了。联系意味着在各事物之间有着存在着表面上的关系,预示着某个特定的输入也许会引起某些特定的结果。但是,在“联系”中不存在确定性。诱因就不一样了
只要记住,近似永远都是近似。
这对喜欢绝对的商业人士来说是当头棒喝;至少他们想要看上去是绝对的过程。好吧,在分析学中没有这样的事情。你的数据可能代表着一堆事实,但是分析学和统计学就如同剧院一样。你看到的不一定总是你得到的。确实,许多“数据学家”更倾向于是“数据操作工”。为支持某个议会给出政策上可接受的结果。
联系不能成为诱因。任何告诉你找到诱因的大数据专家应该被马上质疑直到其他方面证明他没有骗人。
5.他们讨论的是数据质量,而不是数据有效性
我看到花费在数据质量问题上的笔墨越来越多。你在用好的数据吗?你怎么知道,你怎样净化数据的呢?这些都是在数据库和业务智能联合论坛上的问题。数据质量是一个问题,在那么多的垃圾流进流出后。但是关注净化数据只是数据库的思维模式中的一部分。除此之外,还有一个价值数百亿美金的行业。他们关注提取-转化-上传这个整体,有这种思维模式的商人挣扎在将数据与现实世界联系起来的路上。
尽管数据质量重要,大数据有效性更重要;我究竟有没有回答我所提出的问题的有效数据呢?通常,答案会是“没有”。除非你问的是一个你们公司已经问了好几十年的老问题,这样的话,又何必问呢?
如果你问的是新数据的新问题,你怎样直到那些数据是好的,哪些又是坏的呢?你又将哪些数据定义为“干净”的,哪些又是“脏”的呢?直到你开始研究这些由新的分析产生的新结果,进而才能发现这些结果是好的还是坏的,你怎么可能在输入数据的时候定义哪些是干净的,哪些是脏的?
再一次,这是老套的跳出数据库/业务智能行业思维的方式,而且与新开发出来的大数据的领域不合适。许多分析都需要有效的数据,但是在判断数据是否有效前就问这数据是不是干净的是无论怎样都没有意义的。
6.他们听上去跟其他讨论大数据的人说的一样
我们被埋没在大数据的噪声中。确实,是需要一些人来研究大数据的真正意义。更多的,我听到的是同一个课题被一再的重复;只是被误解、被引错,要不就是在推动产品或服务的名义下变态发展。
这令人感到羞耻,因为大数据的背后是社会行为,而且将会一直这样。如果你的大数据专家不谈论这些数据背后的社会,行为模式,政治和经济的话,那你就错失良机了。这个技术很有趣,但是也只是一个找到更有意义的结论的方法。
生火这一技术的由来在过去的一百万年间都很有趣,但是黑夜的结束,冬季的温暖以及炖出来的第一罐汤才是真正改变了一切东西!
如果你的“大数据专家”不能明白这个,那他们永远也不能明白了,你也是。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 5W1H 分析法 定义:经典系统性思维框架,通过六个核心维度对问题进行全方位拆解与剖析,确 ...
2026-09-28 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 用户标签体系 定义: 通过一系列高度精炼的特征标识,对用户属性、行为与偏好进行量化刻画 ...
2026-09-24Pandas是Python生态中用于表格数据处理的核心库,广泛应用于数据清洗、统计运算、报表输出、数据分析建模等场景。在处理极大数值 ...
2026-09-24随着数字经济快速发展,数据已成为核心生产要素,各行各业的业务沉淀、用户行为、设备运行、市场交易均产生海量数据。数据处理作 ...
2026-09-24 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-09-24在时序数据分析中,大部分业务数据并非持续平稳变化,而是会在某些时间节点出现突然抬升、断崖下跌、趋势反转、波动异变等现象, ...
2026-09-23在统计学与数据分析中,研究多组数据差异最常用的方法为单因素方差分析与事后多重比较。很多数据分析初学者容易混淆两者功能,认 ...
2026-09-23