登录
首页精彩阅读机器学习常见的错误——核心数据缺乏控制
机器学习常见的错误——核心数据缺乏控制
2019-04-04
收藏


我们在前面的文章中给大家介绍了很多关于机器学习中常见的错误,当然,这些错误都是需要我们去避免的。在这篇文章中我们继续为大家介绍机器学习中常见的错误,希望大家能够引以为,从而更好地学习机器学习知识。


一般来说,从数据流的角度来看的话,机器学习系统中的数据要经过样本收集、特征生成、模型训练、数据评测等等这样一个流程,在这样一个比较长的流程中,不一定每个环节都是自己可控的,那么在那些不可控的环节,就有可能出现风险,而更可怕的是,由于数据控制在别人手里,如果数据控制出现了问题,那么我们很难清楚实际情况。如果我们以样本收集为例,在大型公司里,这样的工作很可能是由统一负责日志收集的平台部门来做的,而算法团队只要拿来用就可以了。这种做法有好处,也有坏处。好处很明显,就是减轻了算法团队的负担,但是也会带来隐患,就是我们拿到的数据不一定真的是我们要的数据。


大家都知道,正确的数据往往只有一种,但是错误的数据却有很多种错误方法。在样本收集方面,前台发送过来的曝光数据也存在着多种可能性,例如可能是缓存起来的数据,也有可能是用来做SEO的数据等等。这些数据在发送方来看,都是合理的数据,但对于算法模型来看,都不是用户真正看到的数据,而用户真正看到的数据才是我们真正想要的数据。那么作为这份数据的使用方,算法模型很有可能就会受到这种错误数据的影响。而且,最可怕的是,这种错误并不是那种能让程序崩溃的错误能够让我们能在第一时间发现,而是完全隐藏在正常数据中,只有我们犯了错误以后返回来找问题时或许才能发现。


那么大家是否知道这种错误数据出现的原因是什么呢?其实这种错误并不是一定日志收集团队不负责任,关键在于收集日志的团队不使用日志,或者说出数据的人不用数据,那么就很难要求他们来保证数据的质量。这种分离的状态对于模型算法这种高度依赖数据的应用是有风险的,所以最好能够加强这部分数据的控制能力,如果自己不能完全独立来做,那么就要有对应的监控机制,这就需要我们做到有问题能及时发现、及时处理,而不是“拿来主义”。


在这篇文章中我们给大家介绍了机器学习中常见的错误,具体就是对核心数据缺乏控制,相信大家阅读了这篇文章以后已经知道了这种错误导致的后果,希望这篇文章能够更好地帮助大家理解机器学习

数据分析咨询请扫描二维码

客服在线
立即咨询