登录
首页精彩阅读企业数据挖掘实际运用的模型
企业数据挖掘实际运用的模型
2018-07-17
收藏

企业数据挖掘实际运用的模型

这是好几年前写的一篇文章,今天突然翻出来看到,我觉得对于很多在做数据挖掘的朋友有一定参考。

听了几位从公司几位同事和外面专家介绍关于数据挖掘、数据模型的一些东西。总的来说,很有收获,当然收获并不在具体的技术细节上。更多是在看法,理念上。

我以前也搞过很多模型,从最基本的聚类决策树、logisitic、回归分析、生存分析、神经网络,还有市场调研中一些联合分析、感知分析、因子分析/主成分分析,当然还有更高级一点的结构方程。在期货公司呆的一年中,还搞过计量模型:ARMA簇、ARCH簇、VaR等,当时对自己产生的模型,感觉很不自信。因为当时的模型识别率指标(例如:R方,并没有达到传说中在学校做论文或者平时玩模型的90%以上),感觉这个模型就是不好的,并不完美。

去年抱着学习的心态,去一家数据量极其丰富的互联网公司,想去看看大公司玩数据到什么程度,虽然以前和许多牛人们交流过,但当时一直觉得应该不是这么简单。

到新公司后同几位做modeling的同事和听了外部专家的演讲,某种程度上我释然的。感觉自己以前在做模型的时候,更多是在做学术研究一样,也许和我是一个追求完美的人有关。

例如:模型成立的假设条件,与变量选择。

模型的假设条件,对数据的分布要求;

模型的变量选择,以及变量的各种预处理;

针对最终的目的理论上可以使用的模型,都去尝试。比如:会员流失问题:决策树逻辑回归、生存分析,我都会去尝试使用,根据其最终的LIFT值最大的,然后选择。

但实际上,从几位同事与朋友的介绍来看,逻辑回归是许多公司是都在用的模型,

为什么不用更“高级”,更先进的模型呢?原因有二个:

第一个:模型的健壮性。这些模型都是被之前实践证明是最好的,或者性能相对来说最稳定的。衡量的指标不外乎:稳定性、可解释性(这点在商业很重要)、简单性。

第二个:商业运用,已经是流程式的过程,不会轻易去改变,就是你生产线上一样。模型的轻微改变可以要牵动许多方面,是一个大工程。

从与他们的交流来说,我好像忘记了一个东西:这些都是为商业服务的,商业过程不要太复杂,最好的商业模式往往是最简单,不是吗?

我的观点:也许和自己的工作经历有关,但是我觉得对于一个数据分析师或者是数据建模师来说,虽然你用的很简单。但是你掌握的东西应该很多,很复杂,也正是因为有这些基础,你才能选择最好的模型,所以在玩数据挖掘或者数学建模为商业服务的时候,经验很重要,当然这些专业知识的扎实也是最根本的之一。


数据分析咨询请扫描二维码

客服在线
立即咨询