要处理数据异常,我们要先知道什么是数据异常。首先要有数据,才能知道什么是“异常”,百度百科的解释是:指非正常的,不同于平常的。比方如突然的涨,突如其来的跌。
数据涨跌是我们在日常工作中,最容易被发现的现象,也是我们平时工作中要去分析的。也就是说,平时数据没有波动,也许我们不需要去分析,但是如果数据有涨或者跌我们都需要去查出原因的。
为什么涨和跌都要关注?
相信很多朋友跟我一样,起初接触到数据,我只关心跌,为什么昨天的数据跌了?并去分析其原因,也会关心涨,但并不关心为什么涨,就像买股票一样,跌了痛心疾首,并分析原因,涨了满心欢喜,后悔自己为什么不买入多一点儿。
在数据分析的过程中,我们不仅仅要关心跌,以便采取相应动作,减缓跌的趋势,也更要关心涨,弄清楚涨的原因,并放大它,或者说是复制它!
数据异动分析方法论
针对异常数据的处理,通常有五个步骤:
1.发现异常
就像你发现昨天数据跟往前不一样,猛涨了还是猛跌了,通过观测数据发现异常。
2.确定问题
发现异常之后,我们要确定这个异常是不是一个问题,有多严重,可以用对比分析法从时间维度上进行周同比、月同比或者是年同比。
3.确定原因
用多维度拆解法,对于这个异常的指标从不同的维度去拆解,找出原因。
4.针对性解决问题
找到原因之后,就是针对性的解决问题了,根据问题的原因,动用公司的相关资源,去解决这个问题。
5.执行
最后就是执行解决方案,把这个异常数据真正的从异常到执行,完成一个闭环。
案例解析
举个栗子:你现在是做社交APP产品的,在处理数据的过程中,发现某一天的数据异常,该如何分析?
发现问题:在对数据进行统计汇总时发现某一天的异常数据。
确定问题:数据跌了那么多,问题是不是很严重呢?往期有没有这么大的浮动?
由上图的周同比和月同比数据可以看出,往期是没有这个问题的,那说明这是一个严重的个例,表示这一天确实发生了什么事情,造成数据异常的情况。
确定原因:那是不是哪个省份出了问题呢?下面我们按省份进行查看,由下图可以看出,这次数据的猛跌是全国范围内的,基本上所有的省份都有下迭,这样就排除了某个区域下跌的原因。
那是不是设备出问题了呢?再来看不同操作系统的数据有什么不同,由下图可以看出安卓和iOS在这天都出现了下跌,所以排除了设备出问题的可能性。
那是不是服务挂了呢?按小时或者分钟来查看数据是不是符合平时流量规律?
通过上图可以看出,在这一天的0:01分,平台的数据为0,出现了断崖式下跌。而对于社交产品,以往这个时间用户活跃度是很高的,由此可以确定,这一天的数据异常确实是因为服务挂了。
针对性解决问题:联系相关负责人制定及时有效的解决方案。
执行:落实和监测解决方案的执行效果。
以上五个步骤看起来简单,但它是基于对业务洞察的基础之上的,需要根据以往的经验,才能做出这些判断 。如果对自己的业务不了解,再多的工具或是方法论,都是没有用的。所以,需要大家在工作中,不断的积累,不断的验证。
通过上面的案例解析,发现在确定问题时我们提了很多假设,其实数据只是验证假设的支撑工具。而这些假设是基于对业务有足够了解的基础之上的,在这个过程中,需要不断的去试错,不断的积累行业及业务的洞察,才能做出这些假设。
常见的假设
1.活动影响:查对应活动页面及对应动作的数据波动,关注活动是否有地域属性
通常市场或者运营会去做一些活动,所以如果数据出现问题,先看看PV、UV等数据,看是不是活动的影响。
2.版本发布:将版本号作为维度,区分查看
有时候数据出现异常也有可能是新版本的发布带来的波动,所以也可以把版本拎出来看,如果发布的是V1.5,我们可以对比着看看V1.3、V1.4这三个版本数据,看是否正常。
3.渠道投放:查看渠道来源变化
WEB端的渠道来源有很多很多,但是像APP就有点困难,这时可以看看新增的渠道来源,来看看变化影响。
4.策略调整:策略上线时间节点,区分前后关键指标波动
工作中我们会经常改变策略,比如说搜索策略,推荐策略等等,但是呢策略改变之后上线,它肯定有上线时间节点的,这时候可以把这个时间节点像刚才讲的案例那样,拆分成分钟来观察。
5.服务故障:明确故障时间,按时间维度进行小时或者分钟级别进行拆分
通过上面的案例可以看出,服务故障出问题是有一个明确时间的,按照上面案例讲的方法来观察,按分钟来查看,看有没有出现断崖式下跌,这个时候就可以明确是不是服务出现了故障。
——热门课程推荐:
想学习PYTHON数据分析与金融数字化转型精英训练营,您可以点击>>>“人才转型”了解课程详情;
想从事业务型数据分析师,您可以点击>>>“数据分析师”了解课程详情;
想从事大数据分析师,您可以点击>>>“大数据就业”了解课程详情;
想成为人工智能工程师,您可以点击>>>“人工智能就业”了解课程详情;
想了解Python数据分析,您可以点击>>>“Python数据分析师”了解课程详情;
想咨询互联网运营,你可以点击>>>“互联网运营就业班”了解课程详情;
数据分析咨询请扫描二维码
CDA持证人已遍布在世界范围各行各业,包括世界500强企业、顶尖科技独角兽、大型金融机构、国企事业单位、国家行政机关等等,“CDA数据分析师”人才队伍遵守着CDA职业道德准则,发挥着专业技能,已成为支撑科技发展的核心力量。 ...
2022-03-18CDA数据分析师在中国航信高科技产业园进行了面向测试度量的数据分析培训课程,培训人数近2 ...
2024-05-01CDA数据分析师走进深圳迈瑞生物医疗电子股份有限公司,在迈瑞总部展开了为期两天的培训,本次课程参训人员线上及线下近百人, ...
2024-05-01CDA数据分析师在合肥市对合肥阳光新能源科技有限公司开展了为期8天的企业内训。 合肥阳光新能源科技 ...
2024-05-01CDA数据分析师走进海尔大学,进行了《数据治理与数据中台建设的道与术》专题培训,培训现场爆满,近百人参加了此次培训。 ...
2024-05-01在中国银行苏州分行培训中心开始数据分析师培训,此次培训课程共10天内容,包括Excel、MySQL、概率论与数理统计、SPSS等内容, ...
2024-05-01从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,探讨数据挖掘、机器学习模型在金融领域的应用,包括获客、信用评分、细分画像、交叉销售、反欺诈、违规识别、时序预测、运筹优化、流程挖掘九个方面,形成 ...
2024-05-01本次培训课程为线上+线下的模式,由于学员编程能力不一、部分学员没有编程基础,故提供统计学、python基 ...
2024-05-01华夏银行信用卡中心-机器学习培训 1、课程亮点 取材于业界一流企业和顶级咨询公司的行业实践;已经被证明是人人 ...
2024-05-01主 题:数据中台建设及数据分析应用主题分享 1. 数据中台市场洞察 2. 主流数据中台产品比较 3. 某企业数据中 ...
2024-05-01围绕“数据驱动”战略,全力打造我行 300 人数字化人才梯队,着力培养数字化管理人才、大数据专业团队 ...
2024-05-01在当今数据驱动的商业环境中,数据分析成为了企业决策的重要依据。通过对大量数据的收集、处理和分析,企业能够更好地理解市场 ...
2024-04-29在人工智能(AI)的世界里,提示词(Prompt)是一种强大的工具,它能够引导AI按照用户的需求产生特定的输出。本文将深入探讨AI ...
2024-04-29CDA立足未来职场,拓展前沿视野——对外经贸大学保险学院举办“三全育人大讲堂”分享行业最新动态。 ...
2024-04-294月2日,CDA数据分析师创始发起人兼协会理事长赵坚毅博士受邀在浙江万里学院举办了一场以“数字化能力在职场中的作用” ...
2024-04-29随机森林(Random Forests)现在机器学习中比较火的一个算法,是一种基于Bagging的集成学习方法,能够很好地处理分类和回归的问 ...
2022-12-23方差分析是数据分析中常用的一种统计分析方法,接下来让我们简单了解一下方差分析的基本思想和原理吧。 方差分析(Analysis ...
2022-12-23来源:关于数据分析与可视化 关于streamlit-aggrid 数据排序 表格样式的调整 数据 ...
2022-08-03作者:麦叔 定义 「把上面晦涩的概念汇成一句话就是:」 ❝ 回调函数就是一个被作为参 ...
2022-08-03现今,高学历人群日益增多,物以稀为贵的高学历光环淡去。无论本科生还是研究生,甚至博士生,求职竞争力都大不如前,就业压力越来越大。
2022-06-01