数据科学家新手快速上道谨防5个陷阱
在数据科学家入门阶段,你不可避免会踩到一些雷区。这篇文章介绍了 Sébastien Foucaud 博士总结的新手数据科学家最容易犯的 5 个错误。博士已经有 20 多年带领学术界和应用行业年轻数据科学家的经验,可以帮读者朋友少走些弯路,为你的实际工作提供一些指导和帮助。话不多说,上清单!
1. 热衷于 Kaggle 竞赛
资料来源:kaggle.com
参加 Kaggle 竞赛可以锻炼你的数据科学职业技能。如果你懂决策树和神经网络那再好不过了。但实话告诉你吧,数据科学家的实际工作中用不着创建那么多的模型。请记住,一般情况下,你将花费 80%的时间对数据进行预处理,只有剩下的 20%用于构建模型。
数据科学家工作时间分布
参加 Kaggle 竞赛在很多方面都会对你很有帮助。但是,参加竞赛的时候,通常数据会被完美地清理干净,所以你可以花很多时间去调整模型。而在现实工作中很少出现这种情况,你必须从不同格式和命名的不同来源收集数据。
不要害怕脏活累活,一定要好好练习数据预处理技能,因为它将占据你 80%的工作时间。比如爬取图像或从 API 收集这些图像数据;从 Genius 收集歌词数据等。准备好解决特定问题所需的数据,然后将其输入你的笔记本并训练机器学习生命周期。精通数据预处理无疑将帮助你成为真正的数据科学家,并对你的公司产生直接影响。
2. 神经网络是“万能金丹”
深度学习模型在计算机视觉或自然语言处理领域优于其他机器学习模型。但他们也有明显的缺点。
神经网络对数据十分依赖。如果样本较少,通常用决策树或逻辑回归模型结果会更好。神经网络还是一个黑匣子。众所周知,它们难以解释和说明。如果产品所有者或管理者开始质疑模型的输出,你必须能够解释清楚模型的原理。这对于传统模型来说更容易一点。
我们有很多很棒的统计学习模型。自学这些知识,了解它们的优缺点,并根据用例的条件应用这些模型。除非你在计算机视觉或自然语音识别专业领域工作,否则很有可能传统机器学习算法才是最好用的模型。你很快就会发现,最简单的模型,如 Logistic 回归,才是最好用的模型。
来源: scikit-learn.org 算法备忘单
3. 机器学习是产品
机器学习在过去的十年中都被过度炒作,太多的创业公司吹嘘机器学习能够解决任何存在的问题。
来源:过去 5 年 Google 机器学习趋势
机器学习本身不应该是产品。机器学习是创建满足客户需求的产品的强有力的工具。在客户接收精准商品推荐方面,机器学习可以有所帮助。如果客户需要准确识别图像中的对象,机器学习也有用。企业通过向用户展示有价值的广告而获益,机器学习同样可以提供帮助。
作为数据科学家,你所制定的项目需要以客户的目标为主要优先事项。只有这样,你才能评估机器学习是否会帮到客户。
4. 混淆因果关系
大约 90%的数据是在过去几年中涌现的。随着大数据的出现,机器学习从业者能够接触到大量广泛的数据。有了这么多要评估的数据,学习模型发现随机相关性的概率随之增加。
上面的图片显示了美国小姐的年龄以及由蒸汽、热蒸气和发热物体导致的谋杀的总数。基于这些数据,算法将学习到美国小姐的年龄与特定物体导致的谋杀数量之间会互相影响的关系模型。然而,两个数据点实际上毫无关系,并且这两个变量对彼此都绝对没有任何可预测的影响。
在发现数据之间的关系时,将你的领域知识应用进去。这可能是相关性还是因果关系?回答这些问题是根据数据采取行动的关键。
5. 优化错误的参数
开发机器学习模型有一个敏捷的生命周期。首先,你要定义你的想法和关键参数。其次,你需要创建一个结果的原型。第三,你不断优化参数,直到你对它感到满意。
在构建机器学习模型时,请记住要手动进行错误分析。虽然这个过程乏味并耗力,但它会帮助你在接下来的迭代中有效地改进模型。
要点总结
• 练习数据管理技能
• 研究不同模型的优缺点
• 尽可能简化模型
• 检查你结论中的因果关系和相关性
• 优化最有用的参数
年轻数据科学家为公司创造了巨大的价值。他们刚刚学完在线课程,可以立刻为公司提供帮助。他们很多人通常是自学成才,因为很少有大学提供数据科学课程和学位,因此他们对此表现出巨大的决心和好奇心。他们对自己选择的领域充满热情,并渴望了解更多信息。但是,在热情满满的时候也不要盲目学习,谨防以上数据科学家新手会掉落的陷阱,会帮你少走很多弯路。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
数据分析在当今信息时代发挥着重要作用。单因素方差分析(One-Way ANOVA)是一种关键的统计方法,用于比较三个或更多独立样本组 ...
2025-04-25CDA持证人简介: 居瑜 ,CDA一级持证人国企财务经理,13年财务管理运营经验,在数据分析就业和实践经验方面有着丰富的积累和经 ...
2025-04-25在当今数字化时代,数据分析师的重要性与日俱增。但许多人在踏上这条职业道路时,往往充满疑惑: 如何成为一名数据分析师?成为 ...
2025-04-24以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《刘静:10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda ...
2025-04-23大咖简介: 刘凯,CDA大咖汇特邀讲师,DAMA中国分会理事,香港金管局特聘数据管理专家,拥有丰富的行业经验。本文将从数据要素 ...
2025-04-22CDA持证人简介 刘伟,美国 NAU 大学计算机信息技术硕士, CDA数据分析师三级持证人,现任职于江苏宝应农商银行数据治理岗。 学 ...
2025-04-21持证人简介:贺渲雯 ,CDA 数据分析师一级持证人,互联网行业数据分析师 今天我将为大家带来一个关于用户私域用户质量数据分析 ...
2025-04-18一、CDA持证人介绍 在数字化浪潮席卷商业领域的当下,数据分析已成为企业发展的关键驱动力。为助力大家深入了解数据分析在电商行 ...
2025-04-17CDA持证人简介:居瑜 ,CDA一级持证人,国企财务经理,13年财务管理运营经验,在数据分析实践方面积累了丰富的行业经验。 一、 ...
2025-04-16持证人简介: CDA持证人刘凌峰,CDA L1持证人,微软认证讲师(MCT)金山办公最有价值专家(KVP),工信部高级项目管理师,拥有 ...
2025-04-15持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。在实际生活中,我们可能会 ...
2025-04-14在 Python 编程学习与实践中,Anaconda 是一款极为重要的工具。它作为一个开源的 Python 发行版本,集成了众多常用的科学计算库 ...
2025-04-14随着大数据时代的深入发展,数据运营成为企业不可或缺的岗位之一。这个职位的核心是通过收集、整理和分析数据,帮助企业做出科 ...
2025-04-11持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。 本次分享我将以教培行业为 ...
2025-04-11近日《2025中国城市长租市场发展蓝皮书》(下称《蓝皮书》)正式发布。《蓝皮书》指出,当前我国城市住房正经历从“增量扩张”向 ...
2025-04-10在数字化时代的浪潮中,数据已经成为企业决策和运营的核心。每一位客户,每一次交易,都承载着丰富的信息和价值。 如何在海量客 ...
2025-04-09数据是数字化的基础。随着工业4.0的推进,企业生产运作过程中的在线数据变得更加丰富;而互联网、新零售等C端应用的丰富多彩,产 ...
2025-04-094月7日,美国关税政策对全球金融市场的冲击仍在肆虐,周一亚市早盘,美股股指、原油期货、加密货币、贵金属等资产齐齐重挫,市场 ...
2025-04-08背景 3月26日,科技圈迎来一则重磅消息,苹果公司宣布向浙江大学捐赠 3000 万元人民币,用于支持编程教育。 这一举措并非偶然, ...
2025-04-07在当今数据驱动的时代,数据分析能力备受青睐,数据分析能力频繁出现在岗位需求的描述中,不分岗位的任职要求中,会特意标出“熟 ...
2025-04-03