
数据分析入门之随笔记
数据的一面是银弹(Silver Bullet):无所不能,增长黑客(Growth Hacking),决策分析(Decision Making);数据的另外一面是镜子(Reflection):可以看清楚很多苟且和远方的田野。如何发现利用数据的价值,就是数据分析的目标。
数据分析的重要性可以分为两点:
第一是帮助核心业务(Business)成长,找到和验证业务增长点
第二是有效的业务推动(Marketing),提高推广的效率(ROI)。
我把营销(Marketing)作为独立的数据分析角度,因为数字营销极度依赖于数据分析,并且有一些通用的分析模型,它同时也是一个非常大的产业,它是各个软件巨擘必争之地。
最近十几年,数据的收集和处理能力大大提升,越来越多的传感器和数据收集,许多大公司的数据正在从TB级别走向PB级别。互联网公司之间的模式竞争,也转战到对于数据价值的挖掘的能力上,很多时候也就是速度和效率的竞争。不要迷信数据,更不要忽视数据。很多时候,数据是你业务的指南针和护城河。
数据量快速增长,数据分析人才紧缺,数据分析工具依赖性,数据分析服务的强需求都反映了公司从粗放型到精细化的转型。
1.什么是数据分析(Data Analysis)?
为了理解数据分析,首先理解一下数据的概念。管理学家罗素·艾可夫在1989的《 “From Data to Wisdom”,Human SystemsManagement 》提出了DIKW体系体系,这是关于数据、信息、知识及智慧的一个模型,完美诠释了四者的关系。Data(数据)->Information(信息)->Knowledge(知识)->Wisdom(智慧)。
2. 数据分析的技术
技术上就是以发现有用信息,知识和洞察为目的,进行数据收集,处理,清晰,过滤,以支持决策制定。有好几概念有些混淆,花点时间解释一下:
a. 数据挖掘(Data Mining):数据挖掘是以预测为目标的数据建模和知识探索的一个子学科,好多年前,它一直是一个热门的研究生专业,直到信息检索专业的出现。
b. 商务智能(Business Intelligence):BI是一个利用数据的聚合(Aggregation)和分片(Slice)的能力,进行业务监控和洞察发掘。
数据分析也是一种艺术(Art),所谓艺术就是结合技术,想象力,经验和意愿的综合因素的平衡和融合。数据分析也是一个经验和想象力的融合:它涉及到数学算法,统计分析,工具和软件工程的一种结合,最后的目的是解决业务的问题,帮助人从数据中获得智慧。
下面列了几个常用的分析技术范式:
1. 统计模型:利用统计模型处理数据的方法
2. 探索式(exploratory):不设定假设目标,自由发掘和探索
3. 稳定性(Stability ofResults):分析结果的稳定性评估,又是进行交叉验证。
4. 假定验证(HypothesisTesting):预先设定好结论,通过测试校验结论
下面是涉及到算法,工程,统计等的相关技术,每一种细分技术都是一个大学问,好的数据科学家,可以游曳穿行其中,找到数据中有价值的洞察。
3.数据从业者的职业名称
从事数据的工作者,历史上我见识过了不少名称,包括“数据分析师”,“数据经理”,“运营分析师”,“软件工程师”,“算法工程师”,“策略分析师”,“数据科学家” 等等。其中最酷的名字还是LinkedIn发明的“数据科学家(Data Scientist)”,这个名称也被Forbes评为本世纪最”性感“的工作了。我估计,这是全世界最多的科学家团体了,小时候总觉得科学家必须白发苍苍才行的,现在很多同学刚毕业就是”数据科学家“,很让人羡慕。
数据分析实际上是三个方面的融合,包括数据,工程和业务。数据是智慧的原矿石,工程是采矿机,业务是指北针,只有三个方面融合起来,才能最有效的发现数据的价值。我相信一个好的数据分析师必须有工程背景,必须对数据敏感,而且愿意主动解决业务问题。
4.数据分析公司的生态圈
数据分析的的公司非常多,大大小小,林林总总。有小而美的硅谷创业公司,有老牌大公司的老树新花。很多创业公司的市值一路飙升到无法接盘的状态。例如,Palantir估值已经到了200亿美元,但是最近可持续的收入却不断减少,引来不少麻烦。
我把数据分析公司分为三类:
第一类是基础服务提供者,主要提供一些软件工具,Hadoop和Spark的生态公司,帮助数据基础架构的建设,也包括一些数据可视化公司。
第二类是通用分析服务提供公司,包括Palantir,IBM的Watson Analytics,SAS, Google Analytics 等等,这类公司提供数据分析服务或者工具,利用专家背景,系统规模和数据资源,帮助解决客户的问题,特别是很多老牌公司通过收购传统数据分析公司,快速重新包装成新的高大上产品。
第三类是专注行业的数据分析公司,例如生物信息,市场营销分析等等。
5.三种常见的业务分析模型:
GrowthHacker,AARRR,LTV
看完了欣欣向荣的数据分析行业,是不是感到有些热血沸腾。不过我们还是要回到现实的的,落地的数据分析任务。大部分互联网公司,面临的业务增长的压力,都希望通过数据分析来提升竞争力。其中,有三种常见的业务运营增长模型。
1. 黑客文化的Growth Hacker
2. 经典的AARRR漏斗模型
3. 游戏中的LTV模型
1) 增长黑客(Growth Hacker)的数据和分析
GrowthHacking,它指的是一种用户增长的方式,简单说就是通过某些手段和策略帮帮助公司形成快速成长,通常是数据驱动的方法。对创业公司、特别是初创公司来说,在没有广告预算、市场营销活动以及市场推广专员的情况下,GrowthHacking 也可以获得良好的效果。
2) AARRR模型
AARRR是Acquisition、Activation、Retention、Revenue、Refer,这个五个单词的缩写,分别对应这一款移动应用生命周期中的5个重要环节。每一个环节都有些关键指标,可以进行数据分析,找到提升的机会。
3) 生命周期价值(LTV)模型:
LTV是LifeTime Value,它是游戏行业用于衡量用户价值的一种方式和模型。LTV是指在一定时间内,某一客户可能为企业带来的利润额.顾客终身价值是指企业在获得新顾客后的一段时间内,每一位顾客的平均利润净现值。由于游戏有很强的时间相关性,因此LTV会累计一段时间的数据。
6. 几个有特点的数据分析工具
从公司类型上来说,数据分析公司简单可以分为两类:1传统大型IT公司 2互联网创新公司。很多传统大公司都涌入数据分析行业,大多都是希望利用自己的客户,硬件和软件优势,通过数据分析转型成SaaS服务提供商,例如IBM,Oracle等。另外一个就是互联网创新公司,大量数据科学家形成了大大小小数据分析创业公司,
数据分析从来就是一个热门词,像人工智能一样,从来都吸引眼球;很多时候,数据被滥用成了一把上方宝剑,谁不服就用数据砸谁。实际上,数据告诉你的更多的眼前的苟且,而我们需要思考的更多的是诗和远方。数据分析可以给我提供很多的数字,但却无法代替的人的思考:如何简化问题?如何抽象和分解复杂?如何排除万难?数据分析只会让工作更加有意思和挑战!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01CDA 数据分析师:企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”, ...
2025-09-01数据清洗工具全景指南:从入门到进阶的实操路径 在数据驱动决策的链条中,“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化:以预测结果为核心的闭环调优路径 在机器学习模型落地中,“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29