
关于数据挖掘和数据分析
1、很多关于数据挖掘的帖子和文章都在强调工具、算法和架构等,但其实这些都不是数据挖掘的核心,数据挖掘的最重要的环节如下:
数据来源:通过无论是公开的数据还是合作方式、第三方的方式获得数据;
获取标签:对标的物无论是用户、商品、文章分析,以获取足够定义这些标的物的标签,并对标签进行指标化和定义权重,通过这些标签对;
定义特征:通过标的物的个体画像以及标的物间的关系定义个体和整体的特征;
评估模型:通过定义的特征定义并评估一系列数据模型;
应用模型:模型数据可视化、基于有效模型数据价值应用。
2、为什么把数据挖掘和数据分析放在一起说,是因为数据挖掘本身是一个数据应用化的过程,而应用化的过程某种意义上就是一个数据分析的过程,而这个数据分析可以是人为定义的、AI人工智能辅助的等等。
所以,我们可以暂且这样定数据挖掘和数据分析的关系:通过不断优化的数据分析方法,并利用数据挖掘才能够得出数据应用价值的最大化的结果。
数据挖掘是数据价值结果导向的过程集合,而数据应用价值到底有多大?者就是通过数据分析来评估的,其来自于数据分析的过程以及得出的结论。
3、数据挖掘并不局限。就狭义而言,它就是一个在海量数据中挖掘数据价值的过程;而就广义而言,只要是有数据来源的,并能够通过数据分析方法论得到一数据价值结果为导向的过程,都可以称作数据挖掘。
4、产品运营经常会涉及到数据分析,从某种意义上而言,也是一个以数据价值为结果导向的过程:
数据来源:产品运营过程中的产生和收集的一系列数据,如图:
获取标签:通过基本信息和一系列行为数据获取分析得到关键标签,并定义标签的权重和指标,以对基本用户、商品、文章等等标的物进行画像;
定义特征:通过标的物个体的统计数据和画像分析个体间关系的特征和整体性特征,比如电商类用户就可以根据性别和消费能力、消费周期等标签指标,定义其相应的特征;再比如对UV、PV等一系列数据进行整体性的特征判断,以判断产品本身目前的运营特征和情况;等等...
评估模型:通过提取的特征,定义一系列的可用模型,使得从数据来源到标签再到特征以及画像的数据通过模型更直观的展现出来;
应用模型:比如招聘网站按照不同职能区分的用户对于网站的使用情况,产品对于90后用户的运营情况等,以在某种程度上帮助改进产品和提升以及验证运营工作对于目前产品运营的有效性。
5、举个商业化应用的例子,比如EverString这个产品,去年年底刚刚融了B轮65m美刀。这是一家通过大数据技术提供B2B Marketing领域企业智能解决方案的公司,通过挖掘企业数据与结合企业CRM,并建立模型,再利用这些模型帮助企业来预测谁是他们下一个客户。以下是对于这家公司业务的分析:
数据来源:通过爬虫来抓取全网数据并结合企业CRM获取与企业相关的数据,EverString自称有1100万家企业的海量数据库;
获取标签:它们拥有丰富的公司标签,以及合理的指标与权重;
定义特征:与公司业务和规模相关的特征,更加个性化并增加精准性;
评估模型:定义无论是公司层面的营销运营模型,还是基于公司业务本身的数据模型,以关注数据应用价值和更加符合业务应用价值效果的数据模型;
应用模型:将模型应用在整体的业务流程当中,比如通过对历史大量积累的数据进行分析和建模,从而对未来事件的决策的预测。
6、关于数据分析,并不可以简单理解为对于对于数据进行定量、定性的分析和得出一个可用的数据结果的过程集合,这也是我为什么把数据挖掘和数据分析放在一起说的原因。数据分析一定是伴随着数据从采集到定义,再到应用,最后通过分析数据应用的价值,并不断自我过程优化。
从某种意义上而言,数据分析会用到的很多工具。我们会发现无论是用GA、百度统计、友盟等等,它们同样在做着:从采集数据、获取标签(机型、地理位置、用户画像等)、定义特征(转换率、客单价等)和模型(漏斗模型等)到应用模型(可视化图表等)。这个过程同样可以理解为一个数据分析方法结合数据挖掘的过程,即对可获取的数据进行价值挖掘和应用的过程。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01CDA 数据分析师:企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”, ...
2025-09-01数据清洗工具全景指南:从入门到进阶的实操路径 在数据驱动决策的链条中,“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化:以预测结果为核心的闭环调优路径 在机器学习模型落地中,“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29