
企业数据挖掘实际运用的模型
这是好几年前写的一篇文章,今天突然翻出来看到,我觉得对于很多在做数据挖掘的朋友有一定参考。
听了几位从公司几位同事和外面专家介绍关于数据挖掘、数据模型的一些东西。总的来说,很有收获,当然收获并不在具体的技术细节上。更多是在看法,理念上。
我以前也搞过很多模型,从最基本的聚类、决策树、logisitic、回归分析、生存分析、神经网络,还有市场调研中一些联合分析、感知分析、因子分析/主成分分析,当然还有更高级一点的结构方程。在期货公司呆的一年中,还搞过计量模型:ARMA簇、ARCH簇、VaR等,当时对自己产生的模型,感觉很不自信。因为当时的模型识别率指标(例如:R方,并没有达到传说中在学校做论文或者平时玩模型的90%以上),感觉这个模型就是不好的,并不完美。
去年抱着学习的心态,去一家数据量极其丰富的互联网公司,想去看看大公司玩数据到什么程度,虽然以前和许多牛人们交流过,但当时一直觉得应该不是这么简单。
到新公司后同几位做modeling的同事和听了外部专家的演讲,某种程度上我释然的。感觉自己以前在做模型的时候,更多是在做学术研究一样,也许和我是一个追求完美的人有关。
例如:模型成立的假设条件,与变量选择。
模型的假设条件,对数据的分布要求;
模型的变量选择,以及变量的各种预处理;
针对最终的目的理论上可以使用的模型,都去尝试。比如:会员流失问题:决策树、逻辑回归、生存分析,我都会去尝试使用,根据其最终的LIFT值最大的,然后选择。
但实际上,从几位同事与朋友的介绍来看,逻辑回归是许多公司是都在用的模型,
为什么不用更“高级”,更先进的模型呢?原因有二个:
第一个:模型的健壮性。这些模型都是被之前实践证明是最好的,或者性能相对来说最稳定的。衡量的指标不外乎:稳定性、可解释性(这点在商业很重要)、简单性。
第二个:商业运用,已经是流程式的过程,不会轻易去改变,就是你生产线上一样。模型的轻微改变可以要牵动许多方面,是一个大工程。
从与他们的交流来说,我好像忘记了一个东西:这些都是为商业服务的,商业过程不要太复杂,最好的商业模式往往是最简单,不是吗?
我的观点:也许和自己的工作经历有关,但是我觉得对于一个数据分析师或者是数据建模师来说,虽然你用的很简单。但是你掌握的东西应该很多,很复杂,也正是因为有这些基础,你才能选择最好的模型,所以在玩数据挖掘或者数学建模为商业服务的时候,经验很重要,当然这些专业知识的扎实也是最根本的之一。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
LSTM 为何会产生误差?深入剖析其背后的原因 在深度学习领域,LSTM(Long Short-Term Memory)网络凭借其独特的记忆单元设 ...
2025-06-27LLM进入拖拽时代!只靠Prompt几秒定制大模型,效率飙升12000倍 【新智元导读】最近,来自NUS、UT Austin等机构的研究人员创新 ...
2025-06-27CDA 数据分析师:就业前景广阔的新兴职业 在当今数字化时代,数据已成为企业和组织决策的重要依据。数据分析师作为负责收集 ...
2025-06-27探秘 z-score:数据分析中的标准化利器 在数据的海洋中,面对形态各异、尺度不同的数据,如何找到一个通用的标准来衡量数据 ...
2025-06-26Excel 中为不同柱形设置独立背景(按数据分区)的方法详解 在数据分析与可视化呈现过程中,Excel 柱形图是展示数据的常用工 ...
2025-06-26CDA 数据分析师会被 AI 取代吗? 在当今数字化时代,数据的重要性日益凸显,数据分析师成为了众多企业不可或缺的角色 ...
2025-06-26CDA 数据分析师证书考取全攻略 在数字化浪潮汹涌的当下,数据已成为企业乃至整个社会发展的核心驱动力。数据分析师作 ...
2025-06-25人工智能在数据分析的应用场景 在数字化浪潮席卷全球的当下,数据以前所未有的速度增长,传统的数据分析方法逐渐难以满足海 ...
2025-06-25评估模型预测为正时的准确性 在机器学习与数据科学领域,模型预测的准确性是衡量其性能优劣的核心指标。尤其是当模型预测结 ...
2025-06-25CDA认证:数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据,当苏州银行的数字金融部连夜部署新的风控 ...
2025-06-24金融行业的大数据变革:五大应用案例深度解析 在数字化浪潮中,金融行业正经历着深刻的变革,大数据技术的广泛应用 ...
2025-06-24Power Query 中实现移动加权平均的详细指南 在数据分析和处理中,移动加权平均是一种非常有用的计算方法,它能够根据不同数据 ...
2025-06-24数据驱动营销革命:解析数据分析在网络营销中的核心作用 在数字经济蓬勃发展的当下,网络营销已成为企业触达消费者 ...
2025-06-23随机森林模型与 OPLS-DA 的优缺点深度剖析 在数据分析与机器学习领域,随机森林模型与 OPLS-DA(正交偏最小二乘法判 ...
2025-06-23CDA 一级:开启数据分析师职业大门的钥匙 在数字化浪潮席卷全球的今天,数据已成为企业发展和决策的核心驱动力,数据分析师 ...
2025-06-23透视表内计算两个字段乘积的实用指南 在数据处理与分析的过程中,透视表凭借其强大的数据汇总和整理能力,成为了众多数据工 ...
2025-06-20CDA 一级考试备考时长全解析,助你高效备考 CDA(Certified Data Analyst)一级认证考试,作为数据分析师领域的重要资格认证, ...
2025-06-20统计学模型:解锁数据背后的规律与奥秘 在数据驱动决策的时代,统计学模型作为挖掘数据价值的核心工具,发挥着至关重要的作 ...
2025-06-20Logic 模型特征与选择应用:构建项目规划与评估的逻辑框架 在项目管理、政策制定以及社会服务等领域,Logic 模型(逻辑模型 ...
2025-06-19SPSS 中的 Mann-Kendall 检验:数据趋势与突变分析的利器 在数据分析的众多方法中,Mann-Kendall(MK)检验凭借其对数据分 ...
2025-06-19