京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据时代 “脏数据”无处不在且危害大
数据时代已经到来。大数据的应用层出不穷,正改变着公共决策、企业管理、市场营销以及生活的方方面面。我们知道,大数据要发挥作用,有一个前提就是数据是好的数据。所有数据都是好的么?当然不!因此大数据时代还需警惕“脏数据”。什么是“脏数据”呢?简单来说,就是那些虚假的数据,那些未能反映真实情况、扭曲了真实情况的数据。
那么,“脏数据”是怎样形成的呢?
KPI、利益诱惑
导致主动弄脏数据
淘宝卖家信用等级制度是一个很好的创新,推动了诚信网络购物环境的构建。信用的等级主要依据是交易成功后买家的评分。由于信用等级在买家购物时有着巨大的指导作用,所以卖家都颇为重视自己的等级。这也导致该制度从诞生的第一天起就伴随着“脏数据”。部分卖家挖空心思、弄虚作假争取高的等级:有的采用虚假交易的方式,自己卖给自己,然后给予这次交易较高的评分;“刷信用”、“刷钻”俨然成了一门生意,有不少专门做这个生意的网站;职业差评师也应运而生,很多恶意买家专门以给网店差评为手段向网店店主索要钱财。
微博粉丝数体现了一个人的影响力,同时也具有商业价值。这里也有“脏数据”——僵尸粉,即虚假粉丝、永远沉默的粉丝。自己可以注册多个微博来关注自己;花钱也可以买到“关注”,这些粉丝通常是由系统自动产生的恶意注册用户。
终端销售的代理商为了套取运营商的佣金,用一个虚拟的串号录入系统,自己卖给自己;电信业务销售代理商为了完成运营商下达的任务量,将手机号卡从系统里开出来囤着,放在抽屉里慢慢卖。这些,都能产生巨大的“脏数据”。
能力不足
不可避免地弄脏数据
人为的非故意的差错也会导致数据失真。比如要人为地去统计某个营业厅一天的人流量,若这流量成千上万,即使再细心的工作人员,在数的过程中也难免出现差错;如果这个人本身的算术能力有问题,对100以上的数字计算不过来,那么这数据就更难准确;更有甚者,在数了半天后觉得这工作实在枯燥无聊,于是开了小差,最后虚报了一个估计的数字。
无论是主观故意,还是客观能力,是人都会出错。那计算机就不会出错么?计算机同样会出错,且计算机出错的新闻比比皆是。比如在银行ATM机上取1千元,然后吐钞1万元。一方面,这取决于计算机编程人员对计算规则的理解;另一方面,这还依赖于计算机程序编写人员的能力与细心,若出现编程人员的理解偏差或者编程时未想象到的情形,计算就可能出错。
“脏数据”无处不在且危害大
当数据使用者将“脏数据”当作好数据,加以分析利用,作出决策,并辅以强有力的执行时,“脏数据”带来的后果是极其严重的。通过“脏数据”,会得出错误的结论,错误的结论会导致错误的决策,错误的决策加上强有力的执行,比没有数据、没有结论、没有决策更糟糕,不但不会对事物发展起到积极作用,甚至还可能产生消极作用。
举两个简单的例子,如果购买了上述刷来的黄钻卖家的产品,你可能会觉得名不副实;如果付费找拥有大批僵尸粉的大V来传播商业信息,你的钱可能就会打水漂;如果运营商无视套取酬金及囤卡行为而对销售数字津津乐道并为此乐观的话,不仅让酬金白费,还会得出市场发展良好的错误结论并采取下一步措施。
“脏数据”无处不在且危害之大,因此必须要警惕“脏数据”。当然,这不是一概否定大数据,不是说大数据毫无价值,而是想提醒大家一方面要尽可能提高数据质量,另一方面也不能完全依赖大数据。
无论是淘宝、新浪,还是电信运营商,都对数据造假者深恶痛绝,都想出了很多办法来消除“脏数据”。显然,这是道与魔的关系,是一个不断纠缠、不断提升的过程。没有任何一种制度或者技术能百分百消除“脏数据”,但只要态度明确并不断采取措施,就能将“脏数据”控制在一定程度,确保所用数据偏离不会太多且具有使用价值。
大数据不是万能的,伴随着“脏数据”的大数据更不应该被迷信。大数据的使用还需要与经验、实证相结合。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在业务数据分析中,按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中,判断不同特征对模型预测效果的贡献度,是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29【核心关键词】岗位、数字化、经验、课程、方法论、决策、企业、大方向、数据分析、销售管理、理论知识、思维方式、分析销售、 ...
2026-07-28在问卷调研、用户分群、效果对比等业务数据分析中,分类变量的关联性与差异性验证是高频需求。卡方检验作为针对离散分类数据的经 ...
2026-07-28 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-07-28在Excel数据分析与报表制作中,数据透视表是快速完成多维度汇总、分组统计的核心工具。很多从业者在得到透视表汇总结果后,为了 ...
2026-07-27 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-07-27当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运转的核心动能、滋养人工 ...
2026-07-27【核心关键词】客户、数据分析、指标体系、数据采集、数据指标、业务数据、分析思路、业务需求、分析方法 【专访摘要】本次 CDA ...
2026-07-24在数据分析、业务建模与数字化运营体系中,原始业务数据普遍存在缺失、重复、异常、口径不一致等质量问题,直接用于分析与建模会 ...
2026-07-24 很多数据分析师能熟练计算均值、标准差,但当被问到“如何用一张图让业务方3秒内看懂核心结论”“面对不同数据类型该怎么选 ...
2026-07-24在数据驱动的精细化运营体系中,指标是业务判断、效果复盘、策略优化的核心依据。随着企业数据化程度提升,指标数量持续膨胀,但 ...
2026-07-23在用户运营与产品增长体系中,留存是衡量产品真实价值与用户粘性的核心标尺,也是决定用户生命周期价值、获客投产比的底层因素。 ...
2026-07-23 很多数据分析师精通Excel、SQL、Python等工具,但当被问到“面对一个具体的业务问题,该用什么分析方法”“描述性分析和诊断 ...
2026-07-23【核心关键词】埋点、产品、互联网、数据库、决策、数据分析、产品经理、商业模式、移动互联网、指标体系、运营模块、大数据平 ...
2026-07-22在高并发、大数据量的业务系统中,单表数据量达到千万级甚至亿级后,会出现查询性能骤降、索引维护成本飙升、存储扩容困难等问题 ...
2026-07-22 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-07-22在金融风控、企业运营、行业研究等数据分析场景中,大量数据以面板数据形态存在:例如多家分支机构连续多个季度的风险指标、多位 ...
2026-07-21 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-07-21