数据分析师告诉你：大数据时代如何识别虚假数据

好的决策应该是“数据驱动”的，但是如果数据有效性不好，就不可能据此做出好的决定。我的整个职业生涯几乎都在做市场调研和调查数据分析方面的工作，根据我的经验，我已经找到了一个试金石，能够判断一组业务数据是否值得在决策过程中引用。

要想从有效（因此也可能是）有用的数据中剔除虚假（因此也是）无效的数据，就需要问以下九个问题。如果对于任何一个问题的答案是“是的”，那么数这些据就是虚假的。

1. 这些数据的来源是否以此牟利？

如果收集数据的机构能够通过扭曲数据获得经济利益，那么数据就会被扭曲。例如，我曾经听到过一名市场研究员（一名外部顾问）询问雇佣了他的市场营销人员：“你想要数据说什么？”那么他所提交的研究报告中的数据一定经过了仔细地调整，以便反映这个观点。

2. 原始数据是否没有公布？

任何缺少原始数据的研究结果都是虚假的。原始数据不公布一定是因为以下的某一个原因：

原始数据实际上完全证明了别的事情。

原始数据会显示出该研究使用了奇怪的定义或者有偏见的问题。（参见下面的第三点和第五点。）

原始数据不存在，因为研究结果完全是某人的“信口雌黄”，就像他们交易中所说的那样。

3. 是否扭曲了正常的定义？

虽然人类的语言本质上市不精确的，但是如果一份调查问卷或者调查提纲中对于某个词的定义超出了其普遍接受的含义，那么和这个词相关的所有数据就都是虚假的。例如，一项调查将“客户满意”定义为“未退回所购产品”就显然会误导读者，错误地理解你对客户服务的好坏程度。

4. 被调查者是否不是随机选取的？

如果一项调查只询问那些保证会提供特定回答的人，那么收集到的数据就会反应出这样的意见。例如，我有一次看到一家广告公司对于那些购买了该广告的出版商的销售经理们进行调查，用这种方法来衡量“广告效果”。不用说啦，这款广告的效果一定是“效果好极了”。

5. 是否在调查中使用了诱导性问题？

你如何问一个问题往往会让接受调查的人按照可预见的方式来回答。我们可以看看一个来自ZF的例子，如果一名研究人员询问退休人员“你是否赞成ZF援助？”那么你就会得到和“你是否支持联邦医疗保险？”相反的答案。

6. 结果是否计算了平均值？

如果用“平均”的概念来分析的话，即使是好数据也会变成糟糕的数据。例如，在一个房间里有一名亿万富翁和九百九十九个身无分文的乞丐，他们的平均财富是一百万美元。有效的数据应该使用“中位数”，当所有其他的值都是按照顺序排列的时候，中位数是中值。在上面那个例子中，财富的中位数是零。

7. 接受调查的人是否是自我选择的？

企业通常会进行网络调查，由访问网站的人决定是否愿意参与调查。但是，任何基于“自我选择”的调查结果都必然是虚假数据。例如，如果我在网站上贴出一个类似这样的问题，“我们的客户服务如何？”只有那些得到非常好或者非常糟糕的客户服务体验的人才会参与回答。结果你就会对于客户通常会得到什么样的服务体验毫无概念。

8. 是否先入为主地假定了因果关系？

即使两组数据看起来步调一致，你也不知道这种一致性是否有意义，除非你很确定地知道一组数据会导致另一组数据。例如，如果销售收入在你的销售人员参加了销售培训课程之后出现了上升，那么这种收入的上升可能是因为销售培训起了作用，也有可能是因为和销售培训无关的因素，例如经济回暖的因素。相关性并不一定是因果关系。

9. 是否缺乏独立的确认？

科学研究在其他人（原始研究人员之外）独立地证明了研究成果之前，是不会被视为有效的。不幸的是，绝大多数市场研究都是单一来源的，这就让它变得天然不可靠。例如，如同上面那个例子中所说的，你的销售收入在销售人员参加了销售培训之后出现了增长，那么这种增长可能是因为销售培训发挥了作用，也有可能是其他的、和销售培训无关的因素造成的，例如经济回暖。相关性并不一定是因果关系。

让我们来看看如何在看一份真实的市场调研报告的时候运用这些规则。昨天，一家名为Millward Brown的公司发布了该公司的“全球100个最流行品牌”榜单。由于这份报告的目的是要为Millward Brown吸引注意力和客户，所以对于第一个问题的答案就是“是的”。

Millward Brown在发布的报告中没有披露原始数据，所以对于第二个问题的答案也是“是的”。对于第三个到第七个问题的答案未知（因为我们没有原始数据），但是对于第九个问题的答案是“是的”，这是因为Millward Brown使用了“专有的”方法，所以就不可能对报告的结论进行独立的确认。